动手学习大模型开发---随笔6

60 阅读1分钟

最后一次笔记了。看一看两个案例的介绍。 看看这个天机AI。先回顾了RAG的流程:数据提取,向量化embedding,检索(☆),生成。 用Gradio可以构建前端界面,至于调用大模型方面,构建还是引入模块之后用一些函数,重点可能就是一些参数要自己设置。

image.png

查知识库的时候,加载完环境后,利用AGENT_KNOWLEDGE_PATHAGENT_EMBEDDING_PATH获得查询的地址和存储结果的地址。判断返回的结果是否为空来确定是否成功。

想用什么大模型,设一个类就行了。里面属性大概就token和model两种,初始化方法里完成模型初始化._call()方法中设置一些必要参数.

最后是问答方面,利用RAG组件。怎么用呢,感觉和类差不多。先初始化一个实例,model = model_center()。然后一个question变量,内容是提的问题,字符串形式。接着是一个列表,存储问答的历史记录,最后调用model.qa_chain_self_answer(question, chat_history)返回结果,这里参数是问题加历史,也就是经过向量数据库之后整合了再个大模型。