【DeepSeek部署实战】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频教程来啦!

199 阅读2分钟

头图.jpg

【视频发布】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频系列视频教程来啦!

2.jpg

一、课程内容

承接上一次板端部署DeepSeek R1大模型的文档教程,应粉丝们的要求,本次推出视频教程,手把手教学实现端侧部署,无需依赖云端服务器即可本地化处理数据,功耗更低、成本更优异、数据更安全、自主可控,探索端侧AI应用无限可能!

(1)资料下载链接

视频教程】(点击观看)

资料下载

在线文档教程

(2)视频课程目录

第1讲  聊一聊DeepSeek R1大模型

第2讲  部署前期准备

第3讲  Ubuntu下搭建模型转换环境

第4讲  下载DeepSeek R1原生大模型

第5讲  转换1.5B版本大模型

第6讲  部署1.5B版本大模型

第7讲  测试命令介绍

第8讲  转换7B版本大模型

第9讲  部署7B版本大模型

二、配套硬件

本次实验使用的是正点原子RK3588开发板,RK3588是瑞芯微推出的旗舰级芯片,属于多核异构,其具有高性能八核处理器(四核ARM Cortex-A76 + 四核ARM Cortex-A55),内置高性能GPU,自带6 TOPS算力的NPU,支持8K硬件视频编解码。RK3588凭借其强大的处理能力和低功耗特性,成为嵌入式AI应用平台的理想选择!

3.png

正点原子RK3588开发板对DeepSeek R1蒸馏版本大模型支持情况如下,其中,DDR为4GB版本的开发板只能部署1.5B版本大模型,DDR为8GB和16GB版本的开发板支持部署1.5B和7B版本大模型,DDR为16GB版本的开发板运行性能效果最佳,大家可根据需要进行选购。

4.png

正点原子RK3588开发板(点击查看)

正点原子RK3588核心板(点击查看)

正点原子RK3588开发板资料(点击查看)