0.背景
据外媒2月22日报道,谷歌近日发布了一款名为Gemma的开源AI模型,据称该模型采用了与其GeminiAI模型相同的研究和技术构建。
谷歌表示,Gemma是其对开源社区的贡献,旨在帮助开发者“负责任地构建AI”。因此,谷歌在推出Gemma的同时,还引入了负责任的生成式AI工具包。该工具包包含调试工具,以及基于谷歌经验的AI开发最佳实践指南。
谷歌提供了两种不同大小的Gemma模型——Gemma2B和Gemma7B,这两种模型都配备了预训练和指令调优变体,并且都足够轻量,可以直接在开发者的笔记本电脑或台式电脑上运行。
谷歌表示,在关键基准测试方面,Gemma的表现超越了更大的模型,而且这两种模型大小的性能都优于其他现有的开源模型。
1.下载安装ollama客户端
Github仓库地址: github.com/ollama/olla…
官网下载地址: ollama.com/download
Linux 系统下载: ollama.com/download/li…
使用如下命令,下载安装ollama客户端
curl -fsSL https://ollama.com/install.sh | sh
2.安装模型并运行
如果你是第一次部署,它会自动下载!
- 2B轻量版:(适合CPU会低配电脑安装)
ollama run gemma:2b
- 普通7B版 安装指令:(适合8G显存)
ollama run gemma:7b
- 7B的全量版本:(需要16G左右的显存)
ollama run gemma:7b-instruct-fp16