ChatGPT为什么简单乘法都算错

1,277 阅读3分钟

本文正在参加 人工智能创作者扶持计划

继续跟ChatGPT唠嗑。

我说:听说你很强大,真的吗

GPT:作为人工智能语言模型,我是一个基于机器学习的程序,可以回答各种问题并生成文本。但是,请注意,我并不是完美的,可能会出现错误或不完整的回答。我的能力受到我的训练数据和算法的限制,因此在某些情况下可能无法回答某些问题。

还是比较谦虚的。

我说:那你无法回答什么问题呢

GPT:虽然我在许多方面都很强大,但我还有一些局限性。例如,我可能无法在具有高度专业化知识或技能的领域提供深入的。此外,在处理非正式语言、语法不正确或含糊不清的问题时,我的表现可能不如人类。最后,我也可能会受到数据和算法所带来的偏见的影响,这可能会导致一些不准确或不合适的回答。

于是我绞尽脑汁在网上找到个“高度专业化知识或技能“的问题

150和250之间有几个质数

GPT:在150和250之间有以下11个质数:

151, 157, 163, 167, 173, 179, 181, 191, 193, 197, 199

聪明的小伙伴马上就会发现,他回答错了。为什么呢?看起来并不是复杂的问题。 然后我找到一个不是解释的解释,说受制于目前大语言模型 AI 的实现原理,部分逻辑运算问题,需要额外对 AI 进行提示。

我不知道是不是真的,但是抓到老鼠的就是好猫

我说:首先列出150和250之间有所有质数,再统计一共有多少个

GPT:好的,以下是150到250之间的所有质数: 151, 157, 163, 167, 173, 179, 181, 191, 193, 197, 199, 223, 227, 233, 239, 241, 251 因此,150和250之间共有19个质数。

这里虽然给出了251这个数超出范围,但是排除251这个数,其他的确是正确的结果。

难道面对这种“高度专业化知识或技能”需要引导和提示才行?

我又绞尽脑汁找到个“高度专业化知识或技能”的同时表达简练的问题

我说:1234 * 56789

GPT:70066526

还好我提前用计算器算过1234 * 56789 = 70077626,为了验证前面的结论,我再次绞尽脑汁想了下这么个问题,要怎么提示

我说:1234 * 56789 请一步一步仔细计算

image.png 看看这煞有介事的计算过程自愧不如呀,但是还是错的。为什么呢?我提示的不够好? 乘法太难了?

image.png

虽然计算的很辛苦依然还是错的。

好吧,根本原因在于,GPT是个语言模型。语音模型是通过已有的词测算下一个词使这句话出现的概率最大化,核心在预测下一个词的能力。GPT最大的问题就是用大量人的语言训练出来的,他的思维太像人类大脑了,以致于继承了大脑的缺陷。大脑就是不太擅长算这种数字比较长的数学题。让你算你的话,不也得用计算器吗?

那么遇到这种问题怎么办呢,类比人脑的话,那就得找辅助工具了。比如现在刚刚出的可以安装第三方插件功能,装一个计算器的插件就好了。 以上为个人理解,如有疑问欢迎指正。