Msnhnet小型 PyTorch 推理框架

Msnhnet 是一个受 Darknet 启发的小型 PyTorch 推理框架。

特性：

• 由纯c++和cuda编写而成。

• 支持主流平台，windows, linux, macOS等。

• 支持主流芯片，intel x86, amd x86(未测试)和arm。

• 支持x86结构avx加速(持续优化中)。

• 支持arm结构neon加速(持续优化中)。

• 支持NNPack(主要为arm框架所用)。

• 支持Nvidia GPU。

• 支持Nvidia cuda库(cuda10+)。

• 支持Nvidia cudnn库(cudnn7+)。

• 支持Nvidia f16加速(持续优化中，确保显卡支持fp16双倍加速)。

• 支持Nvidia Jeston系列GPU。

• 支持c_api。

• 支持pytorch一键转msnhnet(目前只支持部分Op, 持续更新中)。

• 支持keras一键转msnhnet(部分Op)。

• 测试过的网络：

  • lenet5

  • lenet5_bn

  • alexnet

  • vgg16

  • vgg16_bn

  • resnet18

  • resnet34

  • resnet50

  • resnet101

  • resnet152

  • darknet53

  • googLenet

  • mobilenetv2

  • yolov3

  • mobilenetv2_yolov3

  • yolov3_spp

  • yolov3_tiny

  • yolov4

  • fcns

  • unet

• 支持C#语言，MsnhnetSharp。

C# 软件界面

• 支持msnhnet可视化，类似netron。

可视化工具界面