ChatGPT与大模型研究

本章概述了本书中使用的用例和数据集，同时提供了有关在进一步学习和实践中找到数据源的信息。您还将了解数据类型以及批处理和流处理数据之间的区别。您将通过使用Google的免费基于浏览器的开源Jupyter

本章探讨了数据在企业中的作用以及其对业务决策制定的影响。您还将了解机器学习（ML）工作流程的组成部分。您可能已经看到许多书籍、文章、视频和博客在讨论ML工作流程时都会从数据收集开始。然而，在收集数据之

一些核心观点 从技术推动产业发展的角度，我们认为生成式人工智能技术是一项具有通用型技术潜力的软件技术。 产业应用方需要清晰的认识到其作为一项软件技术的定位与局限性，但同时认识到它是一项具有操作 系统级

引言 自2022年底ChatGPT-3.5发布起，生成式AI(Generative AI)的话题热度持续走高。 该技术并非只停留于概念阶段 ，而是已开始加速影响着各行各业 ，无论是技术本身还是应 用演

在第二章中，我们开始了对Transformer模型体系结构的探讨，其中我们定义了原始Transformer体系结构的构建模块。可以将原始Transformer视为使用LEGO®积木构建的模型。这个构建

迁移学习和大语言模型 大型语言模型（LLMs）如ChatGPT已经引起了公众的关注，许多公司正在寻找机会将类似的功能整合到其产品中，但可能会加入更多的领域专业知识和关注点。 这可以通过迁移学习实现，即

什么是LLMOps？ 大型语言模型运营（LLMOps）包括在生产环境中操作管理大型语言模型所使用的实践、技术和工具。 最新的LLM进展，如OpenAI的GPT、Google的Bard和Databric

语言是人际交流的本质。如果没有构成语言的词序，文明就不会诞生。我们现在生活在数字化语言功能的世界中。我们的日常生活依赖于NLP数字化语言功能：网络搜索引擎、电子邮件、社交网络、帖子、推文、智能手机短信

变换器是为超级计算机上的并行计算而设计的工业化、同质化的深度学习模型。通过同质化，一个变换器模型可以在不需要微调的情况下执行各种任务。变换器可以在数十亿条未标记的原始数据记录上进行自监督学习，具有数十

大型语言模型（LLMs）非常强大，但它们缺乏一些“最笨”的计算机程序可以轻松处理的特定能力。逻辑、计算和搜索是计算机通常擅长的领域，但LLMs则表现不佳。 计算机可以解决非常复杂的数学问题，然而，如果

大型语言模型（LLMs）存在数据新鲜度问题。即使是像GPT-4这样最强大的模型，也不了解最近的事件。 根据LLMs的视角，世界仿佛停滞在某个时间点。它们只知道世界是如何在它们的训练数据中呈现的。 这对

对话记忆是指聊天机器人如何以对话方式响应多个查询。它使对话连贯，并且如果没有它，每个查询都将被视为完全独立的输入，而不考虑过去的交互。 这种记忆使得大型语言模型（LLM）能够记住与用户之前的互动。默认

在机器学习中，我们过去总是依赖不同的模型来完成不同的任务。随着多模态和大型语言模型（LLMs）的引入，这种情况发生了变化。 过去，我们需要为分类、命名实体识别（NER）、问答（QA）和许多其他任务使用

大型语言模型（LLMs）在2020年OpenAI发布GPT-3后进入了世界舞台[1]。从那时起，它们在人气上稳步增长。 直到2022年底。对LLMs和更广泛的生成式人工智能学科的兴趣飙升。这可能是因为

我们过去的两个案例研究专注于完全不同的领域，但有一个共同的重要组成部分：我们处理的是结构化表格数据。在接下来的两个案例研究中，我们将看到特殊情况，需要采用特定的特征工程技术来实现机器学习。在这个案例研

在我们的第一个案例研究中，我们将专注于更经典的特征工程技术，这些技术可以应用于几乎任何表格数据（数据以经典的行和列结构呈现），例如数值填充、分类数据的虚拟化以及通过假设检验进行的特征选择。表格数据集（

本章将介绍特征工程的基本概念。我们将探讨我们将在本书中遇到的数据类型以及我们将在其中看到的特征工程技术类型。在直接进入案例研究之前，本章将为特征工程和数据理解提供必要的基础。在我们可以在Python中

当前关于人工智能（AI）和机器学习（ML）的讨论很大程度上是以模型为中心的，关注ML和深度学习的最新进展。这种以模型为先的方法通常在最好的情况下对用于训练模型的数据付之一笑，而在最坏的情况下则完全忽视

本章将探讨LangChain框架和GPT-4插件的世界。我们将看看LangChain如何实现与不同语言模型的互动，以及扩展GPT-4功能的插件的重要性。这些高级知识对于开发依赖LLM的复杂、前沿应用程

既然您已经熟悉了LLMs（大型语言模型）和OpenAI API的基础知识，现在是时候将您的技能提升到更高的水平了。本章将介绍一些强大的策略，使您能够充分发挥ChatGPT和GPT-4的潜力。从提示工程