核心功能需求:自然语言处理+实时对话交互
界面功能需求:简洁布局+交互体验
前端通过Streamlit等框架实现简洁易用的交互界面,后端基于Ollama等平台进行模型部署和管理,确保系统的高效性和可扩展性。
常见搭建聊天机器人的3种方式:
1.使用无代码平台搭建(如coze)
2.使用开源框架开发
3.基于大语言模型的集成
用户通过streamlit搭建的前端界面给本地服务器发请求,本地服务器把请求给Ollama(Ollama安装、运行在本地,接收本机请求),ollama加载模型输出请求结果给本地服务器,本地服务器再给前端。
大模型分类:自然语言处理模型,计算机视觉(cv)模型,语音模型,多模态模型。
ollama安装:Download Ollama on Windows
ollama特点:
ollama官方模型库: library