1,硬件地址
www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/details/Orange-Pi-AIpro.html
AIpro(8T) 香橙派联合华为精心打造,建设人工智能新生态
2,8tops 算力估计可以运行大模型
硬件规格参数
3,镜像地址
www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/service-and-support/Orange-Pi-AIpro.html
ubuntu使用的是22.03 的镜像
还有华为自己的镜像:
4,计划测试下
硬件还是不错的,也是arm的芯片。理论上可以支持 localai的代码运行。
到时候可以和树莓派对比下:
yanghuaiyuan.blog.csdn.net/article/details/136923371?spm=1001.2014.3001.5502
树莓派4,上面的ollama qwen 大模型测速,0.5b速度 9.6 words/s,1.8b速度 2.8 words/s。 不知道 OrangePi AIpro(8T) 的性能咋样了。