Google DeepMind 推出了实验性 AI 工具 Backstory，旨在帮助用户探索在线图像的背景和来源。该工具结合了多种检测技术，通过分析图像的元数据、历史使用记录和篡改痕迹，为用户提供关于图像可信度的综合报告，以应对 AI 生成内容带来的信息真实性挑战。
人们在线使用图像和与之互动的方式在不断演变。去年，某机构发表了一篇关于通过背景信息和来源确定可信度的论文，展示了更好的评估工具如何帮助人们对其在互联网上看到的内容做出明智的决定。
作为帮助人们做出明智选择的一部分，某机构正在开发易于使用的溯源工具和产品内上下文功能，并投资于信息素养等领域。
今天，某机构推出 Backstory，一款实验性人工智能 (AI) 工具，它可以呈现信息，帮助人们更多地了解在线图像的上下文。
当给定一张图像和一个书面提示时，Backstory 会调查该图像是否为 AI 生成、之前何时何地在网上被使用过，以及是否被数字篡改过。它能为用户快速提供有用的信息，回应用户的后续提示，描述图像是否以及如何被使用过，以及其“故事”是如何随时间变化的。Backstory 还会生成易于阅读的调查结果报告。
通过背景和来源评估可信度
Backstory 基于 Gemini 模型构建，利用多种检测技术来识别图像是真实的还是使用生成式 AI 创建的。然后，Backstory 将这一结果与对图像上下文的更全面评估结合起来。它会呈现该图像在互联网上的使用方式以及元数据等其他信息，以帮助回答用户的书面提示。
在大多数情况下，判断图像是否为 AI 生成并不等同于理解它是否可信。例如，一张图像可能不是 AI 生成的，但可能已被篡改或断章取义地呈现——从而导致产生新的、有时具有误导性的信息。
或者，使用 AI 生成的图像可能支持一个真实、有创意或基于事实的故事。准确评估图像的可信度通常需要更多关于图像如何创建的知识，以及对围绕它的上下文的更深入理解。
采取全面的方法
至关重要的是，行业、民间社会、政府、学者和用户需要共同努力，以开发和改进维护信息生态系统完整性所需的工具和计划。
随着某机构持续进行 Backstory 的研究和开发，正在与可信的测试人员密切合作，包括内容创作者和专家信息从业者，这些人负责管理、组织和传播高质量信息。
今年，某机构将持续收集关于示例、用户体验等方面的反馈，以改进技术，使其更加实用。
致谢
某机构要感谢 Zoubin Ghahramani、Helen King、Rahul Sukhatkar、Raia Hadsell 和 Chandu Thota 的领导和支持。
这项工作得益于 Mevan Babakar、Hannah Forbes-Pollard、Nikki Hariri、Thomas Leung、Nick Dufour、Ben Usman、Min Ma、Steve Pucci、Spudde Childs、Kate Harrison、Alanna Slocum、Reza Aghajani、Sri Rajendran、Alexey Vorobyov、Ashley Eden、Rishub Jain、Stephanie Chan、Sophie Bridgers、Michiel Bakker、Sures Kumar Thoddu Srinivasan、Tesh Goyal 和 Ashish Chaudhary 的贡献。
还要感谢 Kent Walker、Camino Rojo、Clement Wolf、J.D. Velazquez、Tom Lue、Ndidi Elue、Rachel Stigler、M.H. Tessler、Ricardo Prada、William Isaac、Tom Stepleton、Zoe Darme、Gail Kent、Vincent Ryan、Aaron Donsbach、Abhishek Bapna、Verena Rieser、Christian Plagemann、Anca Dragan、Joelle Barral、Edward Grefenstette、Sara Mahdavi、Sven Gowal、Florian Stimberg、Christopher Savcak、Allison Garcia、Eve Novakovic、Armin Senoner、Arielle Bier 以及更大的某机构团队的帮助和反馈。FINISHED
