据外媒报道，谷歌近日发布了一款免费的人工智能工具，能够帮助公司识别儿童性虐待材料。该软件通过对高优先级案例进行排序来协助人类的审查工作。
杜绝儿童性虐待材料(CSAM)的传播是大型互联网公司的首要任务。但对于那些身处一线的人来说，这也是一项艰难而痛苦的工作——他们必须识别并删除相关内容。这就是谷歌发布旨在帮助这些人的免费人工智能软件的原因。
目前，该领域的大多数技术解决方案都是通过根据以前识别的性虐待材料的目录检查图像和视频来实现的。（参照PhotoDNA，该款工具是由微软开发并由Facebook和Twitter等公司部署的）这种被称为“爬虫”的软件是阻止人们共享已知的先前已识别的CSAM的有效方法。但它无法识别尚未被标记为非法的材料。为此，人类必须自己审查有关内容。
这便是谷歌新的AI工具将提供帮助的地方：该工具利用谷歌在机器视觉方面的专业知识，通过对标记的图像和视频进行排序并“优先考虑最可能的CSAM内容以供审查”来协助人类。这样，工作人员将能够提高审查的效率。
谷歌表示，在一项试验中，人工智能工具帮助人类“在同一时期内采取了700％以上的CSAM内容。”
互联网观察基金会（IWF）副首席执行官Fred Langford在接受The Verge采访时表示，该软件将提高人类审查性虐待材料的效率。
IWF是致力于阻止CSAM在线传播的最大组织之一，位于英国，由包括谷歌在内的大型国际科技公司提供资金。它聘请了很多人来识别性虐待图像，并在十几个国家运营提示线，以便互联网用户报告可疑材料。它还开展自己的调查行动、同执法部门展开合作关闭那些共享CSAM的网站。
Langford表示，由于“人工智能有很多听起来不可思议的功能”的性质，IWF将彻底测试谷歌新的人工智能工具，以了解它的表现如何，怎样协助人类进行工作。他补充说，像这样的工具是向全自动系统迈出的一步，可以在完全没有人类参与的情况下识别出以前没有发现的材料。“这种分类器有点像我们这个领域的圣杯”。
“几年前，我会说这种分类器的出现应该在五六年之后了，”Langford说，“但现在我认为，在某些情况下，我们距离创建完全自动化的东西只需一两年。”
（了解更多人工智能资讯敬请关注微信公众号“AI锐见”（Rebuild_ai））
