Streamlit+Ollama+LangChain智能聊天机器人

19 阅读1分钟

核心功能需求:自然语言处理+实时对话交互

界面功能需求:简洁布局+交互体验

前端通过Streamlit等框架实现简洁易用的交互界面,后端基于Ollama等平台进行模型部署和管理,确保系统的高效性和可扩展性。

常见搭建聊天机器人的3种方式:

1.使用无代码平台搭建(如coze)

2.使用开源框架开发

3.基于大语言模型的集成

image.png

用户通过streamlit搭建的前端界面给本地服务器发请求,本地服务器把请求给Ollama(Ollama安装、运行在本地,接收本机请求),ollama加载模型输出请求结果给本地服务器,本地服务器再给前端。

大模型分类:自然语言处理模型,计算机视觉(cv)模型,语音模型,多模态模型。

image.png

image.png

image.png

image.png

ollama安装Download Ollama on Windows

ollama特点: image.png

ollama官方模型库: library

image.png

image.png

image.png

image.png

image.png