Ollama使用学习

171 阅读1分钟

Ollama是什么

Ollama是一个旨在简化大型语言模型本地部署和运行过程的工具。它提供了一个轻量级、易于扩展的框架,让开发者能够在本地机器上轻松构建和管理LLMs。通过ollama,开发者可以访问和运行一系列预构建的模型,或者导入和定制自己的模型,无需关注复杂的底层实现细节

Ollama下载安装

下载地址:Download Ollama on Windows

一键安装:cmd中输入ollama,表示安装完成

1724736287479.png

Ollama使用大语言模型

下载需要使用的模型: 1724736439299.png

比如选择阿里的qwen2,空间不够配置一般,选择1.5b(b:Billion十亿,即1.5*10=15亿个参数)

1724736627168.png

复制黏贴安装:

1724736670693.png

查看已安装模型:ollama list

1724736970328.png

运行模型并开始对话:ollama run qwen2:1.5b

1724737099205.png