关于yolo模型部署到工业环境,格式转换吐槽

264 阅读1分钟

不管是多少版本,目前yolo部署最兼容的还是linux环境部署,如果要部署到android是需要格式转换的

1.转换成onnx

在安卓环境可以使用 opencv+onnxruntime 来加载模型,但是好像gpu和npu加速是使用不了的,gpu好像可以为什么呢?可能是不同芯片的硬件支持程度不一样

ps:opencv 4.10.0 直接引入jar包就行了,没有什么繁琐操作

2.转成ncnn

在安卓环境可以使用,这个是腾讯的模型格式,好像是充分利用了gpu,但是也要看芯片兼容情况,npu是加速无缘,好像已经有点淘汰了这种格式,不过腾讯好像又出了tnn格式的模型文件,总的说这种格式就是把它转成c++格式,然后android通过jni去运行c++的代码,来加载模型和运行模型,速度可能比java快

3.转换成tflite

在安卓环境可以使用,这个模型文件的话貌似是对android支持最好的,本人测试过后发现gpu和npu也是使用不了的,gpu会闪退,npu加速也有点问题

4.转换成rknn

这个模型文件是瑞芯微的芯片的特定格式,转成这个格式才能npu加速

不知道还可以转换成啥,欢迎各位读者补充👏,踩了不少坑啊喂 呜呜呜~