ChatGPT与大模型研究

人工智能（AI）和机器学习（ML）领域有着悠久的历史。在过去70多年里，机器学习从20世纪50年代的跳棋游戏程序逐步发展到能够在围棋中击败世界冠军的高级人工智能。近年来，诸如ChatGPT等生成式人工

在本章中，我们将探讨如何应用生成型人工智能（GenAI）来总结文档，这是各个行业中一种无价的能力。然而，在深入具体的用例之前，必须认识到，由GenAI驱动的搜索智能支持多种用例，除了文档总结外，还包括

在本章中，我们将探讨一个元数据提取用例，这是理解生成式人工智能（GenAI）能力的一个很好的切入点。这个话题在各行各业中都有重要意义，且具有启发性。 为了说明这个用例，让我们考虑一个场景，在这个场景中

本章介绍了围绕大型语言模型（LLMs）设计系统的两种主要模式——批处理和实时模式。决定架构批处理或实时应用程序将取决于你正在处理的用例。一般来说，批处理用例是围绕生成数据并在稍后使用的场景进行构建的。

在前几章中，我们探讨了生成式AI（GenAI）的世界，包括可以利用这一令人兴奋的新技术开发的应用场景和应用程序。我们还讨论了评估GenAI可能为不同组织和行业带来的商业价值。 在本章中，我们将深入探讨

本章概述了与生成式人工智能相关的关键概念、技术和集成模式，帮助你在实际应用中利用这些能力。 我们将介绍生成式人工智能架构，如Transformer和扩散模型，这些模型为生成式模型提供基础，能够生成文本

这本书旨在帮助专业人士将自然语言处理（NLP）技术应用到他们的工作中，无论他们是在从事NLP项目，还是在其他领域（如数据科学）使用NLP。本书的目的是让您了解NLP领域及其基础技术，包括机器学习（ML

在前言中，我讲述了Auto-GPT是什么以及它的起源，但我也在思考，“为什么有人会读这本书呢？” 我的意思是，Auto-GPT就是它所是的——一种自动化的人工智能（AI），它可能帮助你完成一些任务，也

快问快答：你用什么从大型语言模型（LLM）生成内容？ 答案是：提示！（Prompt） 显然，提示是任何生成型人工智能应用程序的关键元素，因此也适用于任何检索增强生成（RAG）应用程序。RAG 系统将信

在本章的最后，我们将探讨几种高级技术，以提升检索增强生成（RAG）应用程序的效果。这些技术超越了基础的 RAG 方法，旨在解决更复杂的挑战并实现更好的结果。我们的出发点是我们在之前章节中使用过的技术。

根据你构建检索增强生成（RAG）应用的环境，安全失败可能会导致法律责任、声誉损害以及昂贵的服务中断。RAG 系统带来了一些独特的安全风险，主要是由于它们依赖外部数据源来增强内容生成。为了应对这些风险，

在第1章中，我们列出了检索增强生成（RAG）在人工智能应用中的几种实现方式，例如客户支持聊天机器人、自动报告、产品描述、知识库的可搜索性和实用性、创新侦察、内容个性化、产品推荐以及培训和教育。 在本章

我们已经多次提到LangChain，并向您展示了很多LangChain代码，包括实现LangChain特定语言的代码：LangChain表达式语言（LCEL）。现在，您已经熟悉了使用LangChain

本章深入探讨了我们之前讨论过的关键技术组件，重点是它们在 LangChain 和检索增强生成（RAG）中的应用。回顾一下，我们的 RAG 系统的关键技术组件按使用顺序依次是向量存储、检索器和大型语言模

评估在构建和维护检索增强生成（RAG）管道中起着至关重要的作用。在构建管道时，评估可以帮助你识别需要改进的领域，优化系统的性能，并系统地衡量改进的效果。当RAG系统部署后，评估可以确保系统的有效性、可

本章主要讲解检索增强生成（RAG）中的检索部分（R）。具体而言，我们将讨论与相似度搜索相关的四个领域：索引、距离度量、相似度算法和向量搜索服务。基于此，本章将覆盖以下内容： 距离度量、相似度算法与向量

向量是检索增强生成（RAG）中的一个关键组成部分，它们是帮助整个过程顺利运行的秘密武器。在本章中，我们将重新回顾前几章的代码，并重点讨论向量如何影响这些代码。简单来说，本章将讲解什么是向量，如何创建向

几乎所有情况下，检索增强生成（RAG）的开发都涉及创建一个或多个应用程序，简称为“应用”。在最初编写RAG应用程序时，通常会在代码中创建一个变量，表示一个提示（prompt）或其他类型的输入，这些输入

当你在开发基于检索增强生成（RAG）的应用时，理解每个组件的细节、它们如何集成以及支持这些系统的技术至关重要。 在本章中，我们将讨论以下主题： 关键组件概述 索引 检索与生成 提示词设计 定义你的LL

本章的代码实验室为本书其余部分的代码奠定基础。我们将在整个章节中提供一个完整的检索增强生成（RAG）流水线。接下来，在本书的各个章节中，我们将逐步查看代码的不同部分，随着学习的深入，我们会在代码中添加