
获得徽章 0
赞了这篇沸点
大模型究竟为什么会出现幻觉呢?今天,OpenAI 罕见发表论文,系统性地揭示了幻觉的根源。
首先,定义幻觉。OpenAI 给出的简单定义是:「模型自信地生成不真实答案的情况。」
至于原因,简单来说就是:标准的训练和评估程序更倾向于对猜测进行奖励,而不是在模型勇于承认不确定时给予奖励。
首先,定义幻觉。OpenAI 给出的简单定义是:「模型自信地生成不真实答案的情况。」
至于原因,简单来说就是:标准的训练和评估程序更倾向于对猜测进行奖励,而不是在模型勇于承认不确定时给予奖励。
4
9
赞了这篇沸点
赞了这篇文章