低代码玩转LLM-腾讯云RAG

60 阅读1分钟

在之前的系列文章里,笔者介绍了如何使用阿里的千问LLM、阿里的文本嵌入模型以及Milvus向量库来搭建一个RAG(检索增强生成)的实验。可通过以下的文章链接回顾一下之前介绍的内容:

HuggingFists-低代码玩转LLM RAG-准备篇

HuggingFists-低代码玩转LLMRAG(1) Embedding

HuggingFists-低代码玩转LLM RAG(2) --Query

    在之前的实验中,我们的环境里用到了Milvus向量库,关于这个向量库的搭建对很多人来说也显得有些繁琐。所以,本次我们选择使用腾讯云的向量库来代替Milvus向量库,完RAG应用场景的搭建。除了向量库采用腾讯云以外,我们本次也将文本Embedding以及大语言模型都换成腾讯云的技术栈,大模型使用腾讯云的混元大模型。在搭建这个实验的过程中,我们能够看到不同技术路线带来的效果差异。从腾讯向量库中检索到的数据由于其检索算法的原因,检索结果无法直接用于问题的回答,故而需要加入一个Rerank的环节。有鉴于多图的文档会触发掘金文章最大篇幅的限制,所以咱们直接不上文档,上视频链接吧,感兴趣的朋友直接看视频感受如何低代码完成RAG的搭建吧。

    视频《玩转数据之低代码LLM 腾讯云RAG