我的大模型之旅

在RAG系统中，混合搜索最常见指向量检索和关键词检索的组合。在不同场景中，实际应用会有不同方式，从概念上讲：混合检索是结合了两种或者多种搜索算法提高搜索结果相关性的搜索技术。

前言 RAG系列的讲解，我们之前和大家分享了RAG的流程、文档切分、基于关键字检索的方案。 在关键字检索的认识与实战一文中，我们讲到了基于关键字检索的局限性：关键字检索可能会受到一些问题的影响，例如同

关键字检索是通过匹配查询中的关键字与文档中的关键字来进行检索的。当用户输入一个查询时，系统会在文档集合中查找包含这些关键字的文档，并将它们返回给用户。

大模型发展到今天，你会发现不论是企业、个人、政府机构，不论是硬件厂商还是软件公司，不论是基建型还是应用型，都能找到参与的身影。

DSPy一种program的全新的大模型应用方式,目前生成式人工智能社区对该框架非常感兴趣。DSPy 框架引入了一系列概念，将构建基于 LM 的应用程序从手动提示工程转向编程。

Assistants API 的内置工具支持了代码解释器、知识库检索以及函数调用，允许接入外部知识（文档）、使用更长的提示和集成各种工具。它能够帮助开发者分担繁重的工作，并构建高质量的 AI 应用。

RAG系统搭建的基本流程；文档切分的方法；基于pdf格式文档的切分。长上下文窗口允许RAG系统在检索精度较低的情况下仍然进行有意义的处理，从而促进了RAG生产的简化，提升了RAG应用的效能。

当开箱即用的预训练LLM没有按预期或希望执行时，如何提高LLM应用的性能的问题。最终我们会问自己：我们应该使用检索增强生成（RAG）还是模型微调来改善结果？

所谓RAG，检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。

本篇文章，我们重点介绍Function Calling的机制和应用，在其原理上，也讲解了为什么会有plugin、GPTs出现等等。

从典型业务架构和技术架构进行分析，让大家初步能够了解我们都是在如何使用LLM的，从而大家在自己的实际落地场景中，也可以对照分析，如何建设自己的业务架构和技术架构，以及选择什么样的技术路线。

API调用之初探，python调用GPT-API，本文给出了需求场景描述，以及对应的python代码实现

文章讲解了大模型应用的概念，ChatGPT：plugins、GPTs、Assistant API；也有大模型的应用：agent，RAG，提示词工程的应用，finetune，训练垂直领域大模型。

Prompt Creator 实际上是使得 ChatGPT 更好的引导你去完善自己的提问，同时也完善自己的回答，更好地指导自己回答出更加令使用者满意的答案，是双向的过程。

相比微调，提示工程成本更低、使用更加灵活，且对于提升模型在小语义空间内复杂语义理解效果更好。思维链（Chain of Thought）是一种提示工具，用于帮助语言模型进行复杂的推理和思考过程。

由于目前人类的技术对自然语言（人说的话）处理的技术还不完美，所以导致目前 AI 生成内容的质量，非常依赖于--提示工程（Prompt），来引导语言模型更好地响应。

前言 随着chatgpt3.5的横空出试，大模型爆火，这个风暴传递到了各行各业。 各类公众号、帖子，也涌现出了各种概念，AI、大模型、LLM、AI、AIGC、AGI、GPT、ChatGPT等等。

人在不断的驱赶下依然还有新的立足之地，这些新领地恰恰是技术延展出来的百年前的纺织工人的后代并不会接着做纺织，他可能是一名铁路工人。