前言
今天梳理的是清华DeepSeek第五弹《DeepSeek与AI幻觉-清华》，该资料主要针对AI大模型中最大的缺陷“幻觉”进行讲解，包括AI幻觉的定义、成因、评测方法、应对策略及其创造力价值。
这份资料条理比较清晰，并且案例和理论结合，还是值得一看的。
梳理内容
引言
内容：
- 页1：封面
- 页2：目录
定义与分类
先通过案例直观地向读者呈现什么是AI幻觉，然后进行理论性的定义与分类。
内容：
- 页3-7：5个案例
- 页3：案例1——DeepSeek金融行业应用
- 页4：案例2——DeepSeek推荐错误与修正
- 页5：案例3——Whisper语音识别的医疗幻觉问题
- 页6：案例4——图片生成的幻觉
- 页7：案例5——图片生成的幻觉
- 页8：定义与分类——事实性幻觉、忠实性幻觉
成因与机制
分析了AI幻觉产生的原因，包括数据偏差、泛化困境、知识固化、意图误解等。
内容：
- 页9：AI为什么会产生幻觉？——原因与学术研究
- 页10：音乐为什么没有幻觉？——音乐与AI幻觉对比
风险与测评
该部分通过评测数据和案例分析，展示了AI幻觉在不同场景中的表现及其潜在风险，包括信息污染、信任危机和安全漏洞等。
内容：
- 页11：AI幻觉的潜在风险
- 页12：AI幻觉评测
- 页13-16：事实性幻觉
- 页13：事实性幻觉评测——领域测试与模型对比
- 页14：事实性幻觉评测——常识错误
- 页14：事实性幻觉评测——逻辑陷阱
- 页16：事实性幻觉评测——虚构事件案例
应对措施
通过分析推理和幻觉的双向作用，总结了应对AI幻觉的三种方式、技术方案以及高发场景的不同防护建议。
内容：
- 页17-19：推理与幻觉的关系
- 页17：推理增强引起幻觉率降低
- 页18：摘要任务评测数据
- 页19：推理增强引起幻觉率增加（双向作用）
- 页20-23：普通用户应对AI幻觉的三种方式
- 页20：联网验证
- 页21：双AI验证/大模型协作
- 页22-23：提示词工程
- 页24：幻觉高发场景——分类与防护建议
- 页25：应对AI幻觉的技术方案——RAG框架与评估工具
- 页26：如何应对AI幻觉？——总结与三角验证法
应用AI幻觉
虽然“幻觉”是AI的一个缺陷，但是在一些场景下，其实也可以很有效果。该部分就是通过探讨AI幻觉在科学、文艺、娱乐和技术创新中的积极作用，展示了如何将“错误”转化为创造力的源泉。
内容：
- 页27-30：AI幻觉的创造力价值——科学、文艺、娱乐与技术应用
- 页27：科学发现
- 页28：文艺与设计
- 页29：娱乐与游戏
- 页30：技术创新与新型科研范式
AI幻觉的总结
内容：
- 页31：AI幻觉的哲学总结——DeepSeek R1观点
总结
“幻觉”是大模型架构设计伴生的产物，目前，我们在使用大模型的过程中可以说是无法避免的。
因此，个人感觉这份资料还是很有价值的，它可以帮助我们了解“幻觉”、应对“幻觉”、利用“幻觉，只有这样，我们才能更好地使用AI，与人机协同发展。
PDF依然放在飞书文档了，不需要登录，可直接在线查看，也可直接下载，公众号“飞哥数智谈”发送消息“清华5”即可。
