原文链接:www.oddmeta.net/archives/98
一、说在前面
今天有一个朋友在一个群里提到了N年前经常用的一个软件:UC浏览器,一个子勾起了当年无数的回忆。于是又让我想起来今年过年、在家里无聊时安装的这个最低配的Deepseek版本。晚上在家无的事事,那就把我当初安装时写的笔记稍作整理,放出来跟大家分享一下。 特别说明:这个百无禁忌版本的Deepseek是为了让大家能体验到原汁原味的大模型的输出,不是让你去做坏事的哈,并且这个东西只可自己学习时用,不可对外提供接口,因为这是违反国家政策的。不过另外一句话来讲,事实上有许多东西都是:我可能一辈子都不会去用,但是我不能没有它(卖保险的同学听到这句话,一下子泪目,您说的太对了,明天咱们聊聊?)。
安装要求: 1、操作系统:据说Windows Family版本会有一些问题,但是我没试过。不太清楚什么情况。当然,如果是Linux操作系统,那只要你更新到新一点的版本,随便哪个发行版都不会有问题。 2、硬盘要求:
- Hardcore模式(命令行模式):单Ollama需要5G左右的,Deepseek模型文件如果你选的是8B的版本,算上一些杂七杂八的大概也需要5G左右(如果是70B版本则至少42G,具体可以在Ollama官网下载模型的地方看到),若以8B版本算的话,共10G。
- 界面模式:需要安装Docker,Open WebUI等等,在前面的10G基础上再加5G,共15G。 3、建议配置
| 版本 | 内存 | CPU | 显卡 | 适用场景 |
|---|---|---|---|---|
| 1.5B | 8GB+ | i5/Ryzen 5 | 集成显卡或低端独显 | 基础对话、简单文本生成 |
| 7B/8B | 16GB+(建议24GB) | i7/Ryzen 7 | RTX 3060及以上 | 通用对话、代码生成 |
| 14B | 32GB+ | i9/Ryzen 9 | RTX 3080/4070 | 长文本推理、专业应用 |
| 32B | 64GB+ | 高性能多核服务器 | 双卡专业级GPU | 科研计算、复杂检索 |
| 70B | 128GB+ | 服务器级多核系统 | 多卡GPU集群 | 企业级私有化部署 |
看完这些要求后,如果你的电脑满足要求,那你可以考虑继续往下看,如果不满足要求,那就不要浪费你自己的时间了。
以下是我的电脑配置,我选择的是8B,但是出字速度不太行。
二、安装Ollama
官网下载频道:ollama.com/download ,不过实际的下载地址还是指向了github,所以不能科学上网的同学那下载的会比较郁闷,因为整个包有1G左右。当然也可以找度娘的网盘。
下载下来后,就直接默认安装即可。
安装完了会自动跳出来一个命令行,在那里敲一个:
ollama -v
如果返回一个版本号,那么恭喜你,安装成功!
但是,如果你跟我一样,是晚上睡觉前开的下载,然后下载完了自动关电脑的。那么你在重新开机后,可以用管理员的身份打开一个命令行,然后在那里再敲: ollama -v 来验证安装。
三、下载模型
在ollama官网上可以看到:ollama.com/huihui_ai/d…
各种不同大小的模型都有,具体选择用什么版本的就看你的电脑的配置。
我的电脑是七、八年前的老电脑,没有GPU,内存也只有16G,所以我选了8B的版本。
将复制下来的命令拷贝到命令行执行,然后下载模型就自动开始了。
ollama run huihui_ai/deepseek-r1-abliterated:8b
注:如果你之前已经下载好了,就会自动运行了。
四、做个测试
前面两步都顺利完成后,会自动出来这么一个界面,或者是你自己新打开一个命令行,然后输入:
ollama run huihui_ai/deepseek-r1-abliterated
这样你就可以开始跟这个百无禁忌的模型对话了。
来一个看看:
再来一个看看:
五、安装聊天界面
最流行的两个聊天界面:
- Open WebUI
- Chatbox 基本上市面的的Deepseek,豆包,千问,Kimi等等的界面底层都来自这两个开源聊天界面。 这两个界面程序的安装在Linux上会非常简单,但是到了Windows上会相对比较麻烦。
Chatbox AI官网教程:chatboxai.app/zh/help-cen…
Open WebUI官网教程:docs.openwebui.com/getting-sta…
这部分照着官网的教程一步步下来通常是不会有问题的。只不过在这里讲起来会比较复杂,需要讲的内容会比较多,如果有人感兴趣的话,我后来再来补充讲一下。
六、特别提示
未经审核版本的模型可能会存在的问题。以下内容来自Deepseek官网:
- 内容准确性与可靠性 未经过严格验证:由于是未审核版,模型生成的内容可能存在不准确或错误的情况。在使用生成的代码或信息时,需要仔细检查和验证,不能直接将其用于生产环境或关键业务场景,以免造成严重后果。 可能存在偏见:模型的训练数据可能存在一定的局限性,导致生成的内容带有偏见。在涉及敏感信息或重要决策时,要保持谨慎,结合自己的专业知识和判断进行评估。
- 安全风险 潜在漏洞:未审核版模型可能存在安全漏洞,如代码注入、信息泄露等风险。如果在与外部系统交互或处理敏感数据时使用该模型,可能会给系统和数据安全带来威胁。因此,在使用过程中要采取必要的安全措施,如对输入输出进行严格的过滤和验证。 恶意代码生成:虽然模型本身的设计目的是为了辅助开发,但不法分子可能会利用其生成恶意代码。在使用模型时,要注意防范此类风险,避免传播和使用来源不明的代码。
- 法律合规问题 版权问题:模型生成的代码可能涉及到版权纠纷。如果生成的代码与现有开源或商业代码存在相似性,可能会引发法律问题。在使用和分发模型生成的代码时,要确保遵守相关的版权法规和开源协议。 数据使用合规:如果在训练或使用模型过程中涉及到用户数据,需要遵守相关的数据保护法律法规,确保数据的合法收集、使用和存储。