极简部署教程!五分钟搞定本地部署GPT-OSS!

166 阅读2分钟

🎉 重磅开源!OpenAI 首个开源权重模型「gpt-oss」已上线! 从今天起,你的 Windows 电脑也能本地跑大模型啦~ 手把手教你 5 分钟完成部署,消费级显卡玩转 200 亿参数大模型!

📦 一、先检查电脑,别踩坑!

推荐配置说明
CPUIntel i7 / AMD Ryzen 7 及以上
内存32 GB 起步,多多益善
显卡最强王者 RTX 5090
入门选手 RTX 3050 也能跑,比较慢
无显卡,纯 CPU 也能跑,就是“龟速”
系统推荐Windows 11 / Linux
Python系统推荐3.12

用 RTX 5090 运行gpt-oss-20b,长文生成大概几十秒;RTX 3050 会更久,但学习 & 测试完全够用。

🔍 二、认识 gpt-oss

版本:120b & 20b(教程用 20b,硬件友好)

特点:开放权重,可自由研究、微调

GitHub:github.com/openai/gpt-…

1754734251803.jpg

🚀 三、安装 Ollama——极简本地跑大模型神器

1️⃣ 打开浏览器 → 访问 Ollama 官网

2️⃣ 点击 Download → 选 Windows → 下载安装包

3️⃣ 一路 Next 装完,Ollama 自动在后台跑

1754734089271.jpg

🧩 四、拉取 & 启动 gpt-oss-20b

方案 A:命令行启动

  1. -打开 PowerShell 或 CMD,执行以下两个步骤

拉取模型

ollama pull gpt-oss:20b

1754734731528.jpg

  1. 启动对话
ollama run gpt-oss:20b

方案 B:桌面客户端启动(小白友好,推荐)

  • 安装完 Ollama 后,桌面应用会自动弹出

  • 顶部下拉框选中 gpt-oss:20b,立刻开聊!

1754734377018.jpg

🔑 五、解锁联网 & 自定义玩法

登录 Ollama Hub → 创建个人资料

登录后,模型即可自动联网搜索最新信息

想打造「专属模型」?

准备数据集 → 微调

写 Modelfile → 自定义系统提示词、超参数 → 构建新版本

🐧 六、 Ubuntu 专篇 | 5 分钟搞定服务器级 Web 客户端

让 gpt-oss 不止跑在终端,还能在浏览器里丝滑聊天!

1️⃣ 一行脚本装 Ollama

打开 Ubuntu 终端,复制粘贴即可:

curl -fsSL https://ollama.com/install.sh | sh

脚本会自动下载二进制文件并注册为 systemd 服务

安装完执行 systemctl status ollama 可看到绿灯 active (running) ✅

2️⃣ 拉取 & 运行 gpt-oss-20b(与 Win 版命令完全一致)

ollama pull gpt-oss:20b
ollama run gpt-oss:20b

3️⃣ 给服务器加上高颜值 Web 面板:Open WebUI

① 安装 Docker(如已装可跳过)​​​​​​​

sudo apt update && sudo apt install -y docker.io docker-compose-plugin
sudo systemctl enable --now docker

② 一键启动 Open WebUI 容器

docker run -d --network=host -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

4️⃣ 打开浏览器,开聊!

  • 地址栏输入 http://<你的 Ubuntu 服务器 IP>:8080

  • 首次访问 → 注册账户

  • 左上角模型下拉框 → 选中 gpt-oss:20b → 即刻对话!

🌟 彩蛋:Ollama 还支持非常多明星模型

  • Deepseek-R1

  • Llama 3

  • qwen 3

  • ……100+ 开源模型,等你自己探索!

觉得有用可以点个赞加关注👍,我将持续更新实用小技巧!