我的AIPC电脑,低成本部署32B参数大语言模型

192 阅读2分钟

我的工作场景:

我是一名曾从业8年的股票产品经理,目前从事编程开发,我也有数据挖掘和AI研究的工作需求。复杂的工作属性让我对电脑配置提出了极高的要求。

  • 编程开发:用 PyCharm 编写后端服务,偶尔也会处理前端代码。
  • 内容创作:用 Figma 制作设计稿,用 Premiere 剪辑视频。
  • AI 研究:需要用 Nvidia 显卡调试大模型,处理大量的PDF文件。
  • 行情看盘:同时打开多个行情软件,包括通达信、同花顺、富途牛牛。

购买的要求

1 性价比是首选 1 能插入英伟达显卡,用于AI研究 3 配件DIY,主要是内存条,硬盘盘位

为什么选到Dell-T5820 ?

首先是选品牌

简单调查了下,全球电脑生产厂商主要是联想,dell,联想的总份额是大大超过dell的;

但是在高端机器方面,dell是更厉害的,包括dell工作站,dell服务器。

其次是选选择工作站,而不是个人电脑。

因为工作站听者就很高大上,哈哈!

工作站的特质注定是给专业人士完成更专业的工作,它包含高级CPU、高速网络连接、高性能显卡、PCLE插槽、SAS硬盘、多内存插槽。

然后是选型号

淘宝搜索“dell工作站”,出现最多的就是T5820机型,说明流通很广泛,机器的配件也很容易买到

配件选择指南,从cpu到内存条的解析

我的配置是:

  • 至强W2150BCPU:我选的处理器性能会好一些

  • 全新M2 256固态:建议扩大容量,这个盘速度比普通固态硬盘快多了

  • 16G * 2内存:我现在已经改装到64G内存

  • K2200显卡:这个显卡对于AI研究用处不大,有AI需求建议自己购买更高级的显卡,

  • 950W电源:电源买大点,显卡装2个都能支持

硬件参数.png

核心硬件评测.png

DSC03251.JPG

DSC03235.JPG

DSC03236.JPG

DSC03237.JPG

DSC03238.JPG

DSC03239.JPG

DSC03240.JPG

DSC03241.JPG

DSC03242.JPG

DSC03243.JPG

DSC03244.JPG

DSC03245.JPG

DSC03246.JPG

DSC03247.JPG

DSC03248.JPG

DSC03249.JPG

DSC03250.JPG