在Windows系统上安装Ollama:轻松玩转本地大语言模型

536 阅读3分钟

引言:为什么选择Ollama?

你是否曾想过在本地电脑上运行类似ChatGPT的大语言模型,无需依赖云端服务?Ollama 正是这样一个开源工具,支持一键下载、管理和运行多种AI模型(如Llama 2、Mistral等)。它轻量、高效,尤其适合开发者、研究人员或对AI感兴趣的极客们。

今天,我们就手把手教你如何在Windows系统上安装Ollama,并运行你的第一个本地AI模型!


准备工作:系统要求与工具

在开始之前,请确保你的设备满足以下条件:

  • 操作系统:Windows 10/11(64位)
  • 硬件配置
    • 内存:至少8GB(推荐16GB以上,运行大型模型更流畅)
    • 存储空间:10GB以上(模型文件可能占用较大空间)
  • 网络环境:稳定的互联网连接(用于下载安装包和模型)

安装步骤详解

1. 下载Ollama安装包

  1. 访问官网
    打开浏览器,进入Ollama官网:ollama.ai

image.png

  1. 获取Windows版本

image.png

  • 点击页面上的Download,跳转到ollama.com/download,再点击页面中的 Download for Windows 按钮,下载安装包(通常为 ollamaSetup.exe)。
  • 如果官网未直接提供,可前往 GitHub Releases页面 手动下载最新版。

image.png


2. 安装Ollama

  1. 运行安装程序
    双击下载的 ollamaSetup.exe,按照提示完成安装(默认选项即可)。
    • 注意:安装过程中可能会请求管理员权限,点击 允许操作。

image.png 2. 后台服务启动
安装完成后,Ollama会自动以服务形式在后台运行。你会在系统托盘看到一个羊驼图标,表示服务已启动。


3. 验证安装是否成功

打开 命令提示符(CMD)PowerShell,输入以下命令:

ollama --v

如果显示版本号(例如 ollama version 0.1.xx),恭喜你,安装成功!\

image.png


快速上手:运行你的第一个模型

1. 下载模型

Ollama支持多种模型,可以在官网首页上搜索并查看模型

image.png 可以通过不同的选项组合,筛选适合的模型

image.png

Ollama支持多种模型,例如热门的 Deepseek。 模型有多个体积,体积更大的模型效果更好,对设备的要求也更高。

image.png 右边有命令,可以直接复制到命令行

ollama run deepseek-r1

首次下载需耐心等待(模型大小约4-7GB,具体时间取决于网络速度)。


image.png

2. 与模型交互

下载完成后,会显示

>>> Send a message (/? for help)

image.png 可以直接输入问题进行提问:

>>> 请用Python写个程序用于绘制圆形

模型会立即生成回答! image.png

结语:开启你的本地AI之旅

现在,你已经成功在Windows上部署了Ollama!无论是写代码、处理文本,还是单纯探索AI的乐趣,本地运行的模型都能为你提供快速、隐私安全的支持。快去尝试更多模型(如 mistralwizardcoder),解锁更多可能性吧!

如果你遇到问题或有心得,欢迎在评论区分享交流! 💬🚀


相关资源


希望这篇指南能助你轻松上手Ollama!如有疑问,随时留言讨论哦~ 😊