RAG-文本向量化结合LLM做检索增强生成 nomic-embed-text:v1.5

509 阅读1分钟

基于RAG+大模型的应用已经成为当前AI应用领域的一个热门方向。RAG(Retrieval-Augmented Generation)将检索和生成两个步骤相结合,利用外部知识库来增强生成模型的能力(如下图来自网络)。

image.png

b59ca2360fef703479bab1c711c28ca7.jpg 在RAG赋能的大模型应用中,关键的一步是将文本数据向量化后存储在向量数据库中(如上图的红框),以实现快速的相似度搜索,从而检索与输入查询相关的文本片段,再将检索到的文本输入给生成模型生成最终结果

image.png 通过ollama安装 nomic-embed-text:v1.5