Msnhnet小型 PyTorch 推理框架

Msnhnet 是一个受 Darknet 启发的小型 PyTorch 推理框架。

特性：

• 由纯c++和cuda编写而成。




• 支持主流平台，windows, linux, macOS等。




• 支持主流芯片，intel x86, amd x86(未测试)和arm。




• 支持x86结构avx加速(持续优化中)。




• 支持arm结构neon加速(持续优化中)。




• 支持NNPack(主要为arm框架所用)。




• 支持Nvidia GPU。




• 支持Nvidia cuda库(cuda10+)。




• 支持Nvidia cudnn库(cudnn7+)。




• 支持Nvidia f16加速(持续优化中，确保显卡支持fp16双倍加速)。




• 支持Nvidia Jeston系列GPU。




• 支持c_api。




• 支持pytorch一键转msnhnet(目前只支持部分Op, 持续更新中)。




• 支持keras一键转msnhnet(部分Op)。




• 测试过的网络：

  
  
  
  

  • lenet5

  
  

  • lenet5_bn

  
  

  • alexnet

  
  

  • vgg16

  
  

  • vgg16_bn

  
  

  • resnet18

  
  

  • resnet34

  
  

  • resnet50

  
  

  • resnet101

  
  

  • resnet152

  
  

  • darknet53

  
  

  • googLenet

  
  

  • mobilenetv2

  
  

  • yolov3

  
  

  • mobilenetv2_yolov3

  
  

  • yolov3_spp

  
  

  • yolov3_tiny

  
  

  • yolov4

  
  

  • fcns

  
  

  • unet

  
  



• 支持C#语言，MsnhnetSharp。

C# 软件界面

• 支持msnhnet可视化，类似netron。

可视化工具界面