ChatGPT：能力、限制和应用

简介

我：你是什么？

ChatGPT：我只是一个算法和数据的集合，旨在根据我收到的输入生成有用的和信息丰富的回应。

根据ChatGPT的定义

ChatGPT是OpenAI基于GPT 3.5架构训练出来的最新模型，它的训练过程被称为强化学习，该模型表现出类似人类的行为，其程度在任何人工智能程序上都未曾见过。

ChatGPT有许多能力、限制和应用，本文将讨论其中一些。你可以在OpenAI的官方网站上访问这个聊天机器人。

一点背景信息

OpenAI是ChatGPT的开发者，是由包括Sam Altman和Elon Musk在内的一群研究人员和企业家成立的公司，意在推动世界人工智能领域的发展。OpenAI提供许多类型的人工智能工具，从文本生成（ChatGPT）到图像生成（DALL-E 2）。

ChatGPT于2022年11月30日向公众发布，以获得反馈，更好地改进模型，发布后不到一周，该聊天机器人在全球范围内突破了一百万用户，它因其易用性、详细的回应和历史知识而获得了关注。

ChatGPT能做什么？

ChatGPT因其能够产生类似人类的反应并跟随对话的流程而闻名，它还提供了一个功能丰富的界面，使其有别于其前辈。其中一些功能包括以下能力：

• 回答后续问题

  与以前的模型不同的是，它将每个查询作为一个单一的实体，ChatGPT可以从以前的对话中获取参考信息，并利用它们来回答问题。

  如果你想让它把一个回答当作一个新的查询，那么请点击reset thread ，这个按钮位于页面的左上角。

• 生成详细的回复

  当有查询时，ChatGPT回复的信息不仅包括要求的信息，还包括结果的理由，以及任何适用的例子。

• 识别输入数据中的错误

  如果您的查询中存在任何语法错误，ChatGPT会尝试纠正这些错误，并根据您的查询的正确版本提供回复，这使得它与不熟悉英语的人兼容。

• 角色扮演

  作为一个大型语言模型，ChatGPT可以接触到大量的话题和对话，这使它有能力模拟不同风格的对话，甚至是不存在的角色。

• 编写各种内容

  用于训练模型的数据包含大量的数据，其中包含多样化的内容，从书籍、歌曲和诗歌到代码、文章和网站。这使机器人能够生成各种风格和许多不同主题的文本。

• 生成或分析代码

  ChatGPT的训练数据也包含一些代码，这让它有能力编写可以执行简单功能的代码，如构建简单的应用程序或解决简单的LeetCode问题。它还可以分析简单的代码，并解释它是如何工作的。

• 过滤不适当的查询(Moderation API)

  ChatGPT可以过滤可能具有攻击性、歧视性或不适当的回应，这可以防止它对不适当的查询给出回应。

它有什么局限性？

目前的模式仍有几个尚未考虑到的缺点，其中一些可能会在后续版本中得到修正。

其中的一些限制包括：

• 倾向于产生不正确的回应

  生成回答的算法并非无懈可击，所以存在ChatGPT产生不正确回答的可能性，由于它是为了使其回答具有说服力，所以会大力支持这种错误的说法，这可能导致它误导某些对特定主题不甚了解的人。

• 未更新的知识库

  用于训练ChatGPT的数据只包含2021年或之前的知识，这可能导致它使用不再准确的信息进行回应，或者使它无法根据不断变化的信息来回答问题。

• 没有连接到互联网

  ChatGPT不能访问互联网，也不拥有可能不包含在其训练数据集中的信息，这可能导致它不知道某个地区或人群的具体事情。因为即使它拥有的知识再广泛，也不像互联网那样无限制。

• 使用假设来提供回答

  当被问到一个模棱两可的问题时，ChatGPT不是要求澄清，而是假设用户需要什么，这在用户不确定他们需要什么的情况下可能是有用的，但大多数时候会导致ChatGPT产生不正确的反应或使用户更加困惑。

• 算法上的偏差

  用于训练ChatGPT的数据可能是有偏见的，这是基于一部分普通人的猜测。因此，一些刻板印象的信息可能会被包含在其反应中，即使对公司的CEO或男性与女性的智力所做的假设并不完全准确。

• 严格的节制

  ChatGPT的回答会被传递给真实的审核API，以过滤掉任何它认为可能不恰当或具有攻击性的内容，（这种审核可能有点矫枉过正 REPHRASE），这导致它拒绝回答它原本会回答的问题。

• 忽悠性

  ChatGPT只有一点人工智能，这使得欺骗它给出不恰当的答案变得非常容易。通过简单地重新措辞你的问题，可以绕过审核。

尽管仍有进步的潜力，我们可能会看到未来的模型有更少的限制和更大的能力，但鉴于模型仍在开发中，而且人工智能的主题相当复杂，这些限制是可以预期的。

ChatGPT的用途

ChatGPT向公众发布，用于测试、评估和反馈，使用该聊天工具不需要任何费用，你所需要做的就是使用有效的电子邮件进行注册，尽管OpenAI的首席执行官Sam Altman在一条推文中提到，有计划让它（REWORD premium），因为 "计算成本令人瞠目结舌"。

对ChatGPT API的访问预计将在明年（2023年）实现，通过这种方式，开发者可以轻松地将聊天机器人整合到他们的应用程序和软件中，但在API访问可用之前，下面是一些你可以用免费的公共版本的API做的事情：

• 替代谷歌搜索

  由于ChatGPT的回答非常详细，在提供热门问题的答案，或简单的历史问题的知识时，它可以作为谷歌的替代品，但在不断更新的信息和2021年后发生的事件领域，它就失败了。

• 协助完成作业

  ChatGPT能够在不同的学术水平上提供帮助，例如，它可以写一篇大学论文，甚至是大学水平的研究论文，它也能够解决简单的数学问题，从简单的加法到稍微复杂的微积分问题。

  只是要确保不要过度使用它 :)

• 进行研究

  由于ChatGPT拥有庞大的知识库，它可以用来研究从历史事件或科学理论到商业或经济分析的主题，这只是对主题的概述有用，你可能仍然需要查阅互联网进行深入搜索。

• 生成内容

  ChatGPT可以用来创建文章、散文、诗歌、歌词甚至故事等内容，它还可以以历史上的作家和艺术家的形式写文章，或者将它们结合起来，创建一个独特的内容类型。

• 解释复杂的概念

ChatGPT可以用非特定主题专家的外行人也能掌握的方式，以及用户熟悉的术语来传达复杂的想法。

• 辩论练习

  ChatGPT能够参与辩论，所以你可以用它来练习你的辩论技巧，你也可以用它来生成一个反驳论点或生成支持论点的观点。

• 编写和调试代码

  ChatGPT可以用来编写和调试普通编程语言的简单代码，同时提供代码工作原理的解释，然而它不能够生成复杂的代码来执行特定功能。它也可以用于调试，通过建议一些方法来纠正一个错误。

反馈信息

ChatGPT使用一种叫做RLHF的方法，即从人类反馈中强化学习，这意味着该模型使用用户的反馈来改进和开发新的功能。

就像从以前的模型中得到的反馈被用来改进当前的版本一样，ChatGPT被发布给公众，作为获得反馈以改进未来模型的一种手段。

OpenAI主要关注的是有助于识别、了解和解决可能出现的问题的反馈，如有害或不适当的输出。你可以参加ChatGPT的官方反馈比赛，有机会赢得高达500美元的API积分。参赛作品可以通过ChatGPT界面上的反馈表提交。

融合

人工智能领域仍处于早期阶段，它有可能彻底改变我们的世界。在ChatGPT中观察到的杰出功能证明，计算机能够做的事情比目前使用的多得多。

然而，重要的是要认识到，像ChatGPT这样的人工智能模型并非没有局限性和挑战，例如，存在着人工智能很快就会接管我们工作的恐惧，这令人担忧，因为ChatGPT产生了令人恐惧的好结果。

往好的方面看，我们可以考虑这样一个事实：如果ChatGPT可以把普通人变成专业人士，那么它在专业人士的手中会取得更出色的成绩。

随着不断的研究和发展，我们可以希望看到人工智能系统能够将这些好处最大化，同时将潜在的缺点最小化。