“我只是一个工程师。”
面对自己开发的算法可遭受到的道德指责，哈佛大学的一位论文作者这样公开回应道。
可能连他自己也没有想到，他的这句回复引发一波了关于AI伦理甚至技术人员责任的巨大争论。
在这波讨论中，二战时一位德国火箭科学家Wernher von Braun的故事持续被提到：在被问及“你的火箭要发射到哪里”时，这位研究者回复道，“That's not my department!（这不归我的部门管）”
技术人员是否应该在研究之外分出心力，了解自己研究背后更深的影响呢？
这一在战争年代常引发巨大争议的话题，在人工智能的威胁日渐露出的今天，又被重新提上辩论场。
我的征途是星辰大海，但是不小心打到了伦敦
引发讨论的是哈佛大学Crowd Innovation Lab参与的一项研究——使用算法自动识别一起犯罪是否属于团伙犯罪。
在美国，当有人殴打行人、抢劫商店或冷血杀人时，警察需要派遣一个特别的执法小组，调查此人是否隶属某个犯罪团伙成员。现在，一种新的算法正在试图自动化识别团伙犯罪。
这一研究引发了另外一批科学家的反对：其非但不会减少犯罪率，反而会削弱人们对社会的信任，或者将无辜的人打上犯罪团伙成员的烙印。
2018年2月，研究人员在新奥尔良举办的人工智能、道德与社会（AIES）会议上发表了这一最新成果。
论文链接：
http://www.aies-conference.com/wp-content/papers/main/AIES_2018_paper_93.pdf
争议声自演讲现场开始发酵。
一位听众、谷歌软件工程师Blake Lemoine当场愤然离席。他表示：“这个研究成果无懈可击，但研究人员是否考虑过可能出现的意外副作用？”
多年来，科学家们一直在使用计算机算法来绘制犯罪网络图，或者预测未来犯罪的地点和时间，这种做法被称为警务预测。但有关将犯罪标记为与犯罪团伙的研究很少。
这一新算法中，研究人员可以根据四种信息将罪犯识别为犯罪团伙成员：犯罪武器、涉案人数、案发地点（如胡同或街角）以及此地点的周围环境。加州长滩市检察官Doug Haubert表示，此类分析有助于在罪犯得到充分调查之前对犯罪行为进行定性，这改变了警方原有的反应方式。
为了对犯罪行为进行分类，研究人员发明了一种特别的神经网络算法。一个神经网络是由很多层计算单元组成的，这种数据处理的方法使人联想到大脑的神经元。这种新的机器学习形式可以根据反馈情况对算法进行改进、优化。
在该研究中，研究人员利用加州洛杉矶警察局（LAPD）2014年至2016年期间的数据，在50000多起犯罪团伙性质和非犯罪团伙性质的凶杀案、严重袭击案和抢劫案数据上训练了算法。
研究人员在另一组LAPD数据上测试了他们的算法。这个网络是“部分生成的”，因为即使没有收到警官关于犯罪的描述，模型也可以使用上述四个因素来填补缺失的信息，然后用所有的片断来推断犯罪是否与犯罪团伙有关。
与未采用这种新方法的精简版神经网络相比，部分生成算法将错误率减少了近30％。研究人员还没有测试他们的算法是否比训练有素的官员的判断更准。
“这篇论文很有趣”，卡迪夫大学研究犯罪数据的计算机科学家Pete Burnap说，“但是，尽管预测可能有用，还是不可能比警官们的直觉更准确”。
Haubert对此表示赞同，但他表示，借助数据建模有时可以产生“更好更快的结果”，这样的分析“在可以获得大量数据的城市地区尤其有用”。
但是，如何确定训练数据没有偏见？当某人被误认为犯罪团伙成员时会发生什么？Lemoine在AIES会议问答环节提出了担忧。
更进一步的担忧是，研究人员是否也在开发能够帮助犯罪团伙预测警方搜捕的算法？
当时，哈佛大学的一位计算机科学家Hau Chan正在介绍这项工作，他回答说，他不确定新工具将被怎样使用。
“我只是一名工程师”，他说。
Lemoine引用了一首关于战时火箭科学家Wernher von Braun的歌曲的歌词：“一旦火箭发射了，谁在乎它们在哪里落下来？”随即愤怒地走了出去。
Wernher Von BraunTom Lehrer - That Was The Year That Was
Wernher von Braun被涉及的部分歌词：
Don't say that he's hypocritical
Say rather that he's apolitical
"Once the rockets are up, who cares where they come down?
That's not my department!" says Wernher von Braun
Lemoine随后接受了Science的采访，“我们该不该为警察建立工具，这并不是我想讨论的重点。”Lemoine说（他特意指出，他是以个人身份发声，而不是代表谷歌）。
“我认为，当你创造一个强大的事物时，你至少有责任考虑它可能被如何使用。”
这篇论文的另外两位作者也就此问题接受了Science记者近20分钟时间的采访。“目前这很难说”，加州大学洛杉矶分校的人类学家Jeffrey Brantingham说。
“这是一项基础研究”，南加州大学的计算机科学家Milind Tambe表示同意。
采访中，这两位研究人员更乐于谈论的是部分生成神经网络的其他应用：分类野生动物犯罪，改善草场管理，预测哪些人最擅长向朋友传播公共卫生信息。
而对于算法该如何使用，他们一直三缄其口。
原文发布时间为：2018-03-7
本文作者：文摘菌
