#每日快讯#
OpenAI新发布的推理模型o3和o4-mini在幻觉问题上表现严重，甚至超过了前代模型的水平。
一、幻觉问题的表现
~ 幻觉频率增加：根据OpenAI的内部测试，o3和o4-mini在回答问题时出现幻觉的频率显著高于前代推理模型o1、o1-mini和o3-mini，甚至高于传统“非推理”模型。在OpenAI设计的内部基准测试PersonQA中，o3的幻觉比例达到33%，几乎是前代模型o1（16%）和o3-mini（14.8%）的两倍；而o4-mini的幻觉率更是高达48%。
~ 具体案例：第三方机构Transluce的测试也发现了类似问题。例如，o3在回答问题时声称自己在一台2021款MacBook Pro上通过“ChatGPT之外”的方式运行了生成的代码，并将结果复制到答案中。但实际上，o3并不具备执行这种操作的能力。
二、原因分析
~ 模型复杂性增加：随着推理模型规模的扩大和复杂性的增加，模型在生成答案时可能会引入更多的不确定性和错误，从而导致幻觉问题的加剧。
~ 强化学习的影响：有观点认为，用于o系列模型的强化学习可能会放大幻觉问题。强化学习通过奖励机制来优化模型行为，但如果奖励机制设计不当或训练数据存在偏差，就可能导致模型生成不准确或虚构的内容。
三、OpenAI的回应与未来展望
~ 重视幻觉问题：OpenAI发言人表示，解决幻觉问题一直是公司重点研究的方向。他们正在不断努力提升模型的准确性与可靠性，以减少幻觉现象的发生。
~ 未来研究方向：OpenAI在技术报告中指出，需要进一步研究随着推理模型规模的扩大，幻觉问题为何反而变得更加严重。这暗示了未来OpenAI可能会针对这一问题进行更深入的研究和优化。
四、影响与启示
~ 对AI应用的挑战：幻觉问题的存在对AI应用构成了挑战。特别是在需要高度准确性和可靠性的领域（如医疗、金融等），幻觉问题可能导致严重的后果。
~ 推动AI技术进步：然而，幻觉问题也促使AI研究者不断探索新的方法和技术来改进模型性能。这有助于推动AI技术的不断进步和发展。
OpenAI新发布的推理模型o3和o4-mini在幻觉问题上表现严重，甚至超过了前代模型的水平。
一、幻觉问题的表现
~ 幻觉频率增加：根据OpenAI的内部测试，o3和o4-mini在回答问题时出现幻觉的频率显著高于前代推理模型o1、o1-mini和o3-mini，甚至高于传统“非推理”模型。在OpenAI设计的内部基准测试PersonQA中，o3的幻觉比例达到33%，几乎是前代模型o1（16%）和o3-mini（14.8%）的两倍；而o4-mini的幻觉率更是高达48%。
~ 具体案例：第三方机构Transluce的测试也发现了类似问题。例如，o3在回答问题时声称自己在一台2021款MacBook Pro上通过“ChatGPT之外”的方式运行了生成的代码，并将结果复制到答案中。但实际上，o3并不具备执行这种操作的能力。
二、原因分析
~ 模型复杂性增加：随着推理模型规模的扩大和复杂性的增加，模型在生成答案时可能会引入更多的不确定性和错误，从而导致幻觉问题的加剧。
~ 强化学习的影响：有观点认为，用于o系列模型的强化学习可能会放大幻觉问题。强化学习通过奖励机制来优化模型行为，但如果奖励机制设计不当或训练数据存在偏差，就可能导致模型生成不准确或虚构的内容。
三、OpenAI的回应与未来展望
~ 重视幻觉问题：OpenAI发言人表示，解决幻觉问题一直是公司重点研究的方向。他们正在不断努力提升模型的准确性与可靠性，以减少幻觉现象的发生。
~ 未来研究方向：OpenAI在技术报告中指出，需要进一步研究随着推理模型规模的扩大，幻觉问题为何反而变得更加严重。这暗示了未来OpenAI可能会针对这一问题进行更深入的研究和优化。
四、影响与启示
~ 对AI应用的挑战：幻觉问题的存在对AI应用构成了挑战。特别是在需要高度准确性和可靠性的领域（如医疗、金融等），幻觉问题可能导致严重的后果。
~ 推动AI技术进步：然而，幻觉问题也促使AI研究者不断探索新的方法和技术来改进模型性能。这有助于推动AI技术的不断进步和发展。
展开
评论
点赞
- #每日快讯#
人果然在干坏事的时候，最有耐心
每日抽象完成
5 赞 · 7 评论 - #每日快讯# 早上好 ！5月21日 星期三 农历四月廿四 小满
1、六大行集体下调存款利率：1年定期利率跌破1%；5年期LPR从3.6%下调至3.5%，100万房贷30年累计少还2万；
2、住建部：我常住人口城镇化率达到67%，9.4亿人生活在城镇；
3、中疾控：适龄儿童要及时、全程接种百白破疫苗；
4、每日475.52元！最高检公布侵犯公民人身自由最新赔偿金标准；
5、F-35克星来了！中国一次拿出三种不同类型的反隐身雷达；
7、西安电动自行车新规：拐弯时让直行车辆，横过机动车道时推行，不可加装遮阳伞；
8、特朗普拟对华起重机加征100%关税，美国业内：美国这行上世纪80年代就黄了；
9、杜特尔特家族在中期选举中表现抢眼后，菲总统马科斯称愿与其和解；
10、欧盟就逐步放松对叙利亚制裁达成一致；
11、美国公布新型核弹B61-13，威力是广岛原子弹的21倍；
12、胡塞宣布对以色列海法港实施海上封锁，以回应以军在加沙的军事行动；2 赞 · 2 评论 - #每日快讯# 早上好！2025年5月22日 星期四 农历四月廿五
1、南方将迎本轮降雨最强时段，广西北部、湖南、湖北、安徽、江西等地有大到暴雨；
2、“国家应急广播预警”小程序上线，可开启多灾种预警服务；
3、四川副省长、省公安厅厅长叶寒冰被查；
4、四川：入职体检不等同于健康证体检，外卖骑手接单将不再强制要求上传健康证；
5、云南：拟对强制诱导购物等吊销导游证的不得再次核发；
6、广东：7月起，中小学不得以任何方式强制学生购买校服或捆绑销售；
7、云南曲靖陆良县一装载机疑刹车失灵撞向路边买菜人群，致6死4伤；
8、全球票房已超158亿元，《哪吒2》密钥第4次延期至6月30日；
9、外交部：中国与近20个立场相近国家共同发起建立的国际调解院总部将设在中国香港，来自亚非拉欧的近60个国家和20个国际组织将出席30日举行的签署仪式；
10、巴基斯坦一校车爆炸已造成5死38伤，巴方称系印度策划，印方否认；
11、外媒：印巴同意在5月底前将部队撤至和平时期的阵地；
12、特朗普宣布1750亿美元打造“金穹”导弹防御系统，计划3年内运转；
13、美最高法允许撤销委内瑞拉移民临时保护身份，35万人或将被驱逐；
14、欧洲要求参与俄乌谈判，美称俄乌不需要第三方；俄方：不会与乌先停火再观望；
15、以总理称对伊朗保留单方面行动权利；美官员：情报显示以可能打击伊核设施；2 赞 · 0 评论