Ollama 运行 Gemma 模型

安装 Ollama Ollama

Ollama 已支持Google的 Gemma 模型 现在可以下载安装在你的电脑上运行 2B大小是1.4G 安装：gemma (ollama.com)

ollama run gemma

模型存储位置：

• macOS: ~/.ollama/models
• Linux: /usr/share/ollama/.ollama/models
• Windows: C:\Users<username>.ollama\models

通常一个模型少则一个 GB，大则上百 GB，如果想改存储位置到外接硬盘需要在命令行使用 launchctl 更改环境变量，举例：launchctl setenv OLLAMA_MODELS "/Volumes/backup/ollamamodels"

推荐一个 ollama 的 chat ui ivanfioravanti/chatbot-ollama: Chatbot Ollama is an open source chat UI for Ollama. (github.com) 部署简单， 运行方便，还可以导出导入聊天数据。

1. Clone Repo

git clone https://github.com/ivanfioravanti/chatbot-ollama.git

2. Install Dependencies

npm ci

3. Run Ollama server

ollama serve

4. Run App

npm run dev

5. Use It

   visit http://localhost:3000/