大模型RAG项目

前端页面，我们使用streamlit架构开发，页面内容可根据实际情况调整，如下代码可参考 在命令行使用 即可打开本地电脑的8501端口，可以在本地用浏览器访问，也可以远端浏览器用ip加端口的形式访问，

既然是检索增强生成，我们主要是让大模型根据现有的知识图谱回答用户的问题，所以开发逻辑分3部分 1，是将用户问题embedding后，与向量数据库内的内容，进行相似度检索，代码如下 2，prompt提示

本集我们通过第一集提供的大模型api接口，开发一个基于langchain的LLM的继承类，代码如下 通过定义这个类，我们可以调用本地大模型了， 为RAG主函数打下了基础 这个项目代码我已经开源到Git

网上很多文章都是讲把数据集嵌入到向量数据库后，直接在页面查询，虽然可以作为学习使用，但是不符合应用场景，用户都知道答案了，为啥还需要问大模型啊。所以笔者认为，应该是it或者业务部门构建企业的数据集后，

对于这个项目来说，因为考虑到数据不能出公司，所以不能用OPENAI的模型和接口，选择开源的大模型成了首要的问题，可根据显卡等配置的具体情况，选择不同参数的模型，笔者测试了llama2的13B模型，感觉