仅一条命令安装大模型的工具Ollama

785 阅读3分钟

接着上一篇《十分钟安装部署大模型ChatGML-6B》我们在机器上一步步安装ChatGML-6B大模型,这次我们来介绍一款更加方便的大模型安装工具Ollama,无需安装任何环境仅需一个命令即可将大模型安装到本机。 image.png

官网

ollama.com/ 官方提供mac、linux和windows平台安装包,安装软件好处是能及时升级新功能,软件下载后按照提示安装即可。

Ollama目前支持如下大模型:

ModelParametersSizeDownload
Llama 38B4.7GBollama run llama3
Llama 370B40GBollama run llama3:70b
Phi 3 Mini3.8B2.3GBollama run phi3
Phi 3 Medium14B7.9GBollama run phi3:medium
Gemma 29B5.5GBollama run gemma2
Gemma 227B16GBollama run gemma2:27b
Mistral7B4.1GBollama run mistral
Moondream 21.4B829MBollama run moondream
Neural Chat7B4.1GBollama run neural-chat
Starling7B4.1GBollama run starling-lm
Code Llama7B3.8GBollama run codellama
Llama 2 Uncensored7B3.8GBollama run llama2-uncensored
LLaVA7B4.5GBollama run llava
Solar10.7B6.1GBollama run solar

一键安装

ollama软件安装完成后,打开命令行直接执行以下命令即可安装llama3大模型。

ollama run llama3

效果

➜ ollama run llama3
>>> 你好
😊 你好!我很高兴见到你!如何可以帮助你今天? 🤔

>>> 你是谁
😊 我是 LLaMA,一个由 MetaAI 开发的人工智能语言模型。我可以理解和生成人类语言,可以与您进行对话、回答问题、提供信息和建议等。我的目的是帮助人们更
好地沟通和学习新知识。 💡

>>> 请用中文写一首诗,随便发挥即可
💫

星空的秘密

夜晚的黑暗中,我听见了歌声
来自星空的调律,响徹整个宇宙
我抬头望天,感受着温暖的光芒
在这个世界上,没有什么比这更加美丽

星星们开始说话,告诉我生命的秘密
他们说,我们所有人都是同一个整体
我们是星空的一部分,我们是宇宙中的小环节
我们的梦想和希望将会化为泡沫

我站着望天,感受着自由和无限
在这个瞬间,我感到自己是宇宙的一部分
我的心中有了火焰,我的灵魂开始燃烧
我知道,这是一个新的开始,一切皆可能

💫

>>> 再见
😊 再见!感谢和你对话。如果你需要任何帮助或只是想聊天,可以随时找到我。祝你有一个美好的日子! 👋

Ctrl + D 即可退出命令行模式。

总结

大模型如雨后春笋,配套工具也陆续出现,各种大模型应用也相继出现,总体使用下来大模型应用中我觉得编程助手是最好用的了,相信未来人工智能会让生活更加美好。

博客原文:《仅一条命令安装大模型的工具Ollama》