前言：人工智能引发人类的厄运只是迟早的问题吗？看来更多的科学家有着确定的看法，而且对时间的预期越来越近，IEEE有文章调查这种可能性，笔者引述这类观点供参考：接受调查的研究人员指出了人工智能的存在风险；而批评者认为研究本身存在有很多瑕疵。
随着人工智能活动的声浪从2023年持续到新的一年，研究小组人工智能影响发布了他们最近对人工智能研究人员和工程师的展望调查结果。他们随附的预印本论文（截至新闻发布时间尚未经过同行评审）详细说明了结果。该小组对2023年人工智能专家调查的分析总结了2,788名人工智能研究人员对关于人工智能研究当前和未来一系列问题的回答。
KATJA GRACE，人工智能影响
2023年调查遵循了人工智能影响的2022年调查，参与者中位数认为人工智能导致“人类灭绝或类似永久和严重剥夺人类物种权力”的可能性为5%。由于“人类无法控制未来的先进人工智能系统”而导致同样的灭绝或征服的可能性中位数为10%。在2023年的调查中，对这些问题的回答中位数没有变化，而到2100年，2023年人工智能驱动的灭绝的预测中位数为5%。
人工智能影响自2016年以来一直在进行这项调查。该组织的联合创始人之一、现任首席研究员Katja Grace成立了该小组，以绘制推进人工智能技术的潜在后果。Grace说：“我们正试图回答关于人工智能未来的决策相关问题。”“未来什么时候会发生特殊的事情？有坏事发生的风险吗？在实践中，我们对人类灭绝感兴趣。”
这里显示了人工智能研究人员对“劳动完全自动化”（FAOL）预测的汇总和代表性响应。人工智能影响
该小组进行每年一次的调查，以抽样人工智能研究界对这些后果的看法。“我们对时间表最感兴趣。我们询问可能更早发生的偶然事件，我更相信这是关于什么是合理的直截了当的信息，”Grace说。“对于更长的目标，这些数字无处不在，我不期望知道它们会发生的日期，但更期望了解人工智能社区的感受。”Grace接着说“从调查中很难判断整体情绪如何，但似乎有相当普遍的信念，即从长远来看，人工智能摧毁人类的风险是不可忽略的。”
NIRIT WEISS-BLATT，作者，THE TECHLASH
自成立以来，人工智能影响因其调查产生的更令人震惊的结果而吸引了大量关注。截至2022年12月，该集团目前在其网站上列出了七名贡献者，该集团也已收到至少200万美元的资金。这笔资金来自一些与有效利他主义运动有关并关注人工智能潜在生存风险的个人和慈善协会。这包括开放慈善事业、技术专家Jaan Tallinn和现已停业的FTX未来基金。人工智能影响在机器智能研究所内运作，这是一个由Eliezer Yudkowsky共同指导的人工智能存在风险研究小组。Yudkowsky此前曾呼吁结束先进的人工智能研究，并可能以暴力告终。
2023年的调查还要求参与者估计一些人工智能研究里程碑的可能性和发展时间表。与会者预测，一些人工智能任务——用Python生成功能软件，创建一个“随机视频游戏”，编写一首排名前40的流行歌曲——可能会在这十年结束时完成。可以说，人工智能代码生成已经实现了其中的第一个。研究人员给出了更长的中位时间框架，如作为双足机器人赢得5K公路比赛或完全自动化长途卡车司机的工作。
NIRIT WEISS-BLATT
2022年调查的参与者选择方法因扭曲和狭隘而受到批评。人工智能影响将调查发送给了4,271人，其中738人回复了，他们的研究发表在2021年机器学习会议神经信息处理社会（NeurIPS）和国际机器学习会议（ICML）上。通信研究员兼著名IT作家Nirit Weiss-Blatt公开批评该调查，他指出，这种方法造成了扭曲的调查人群。Weiss-Blatt说：“向这些会议发送论文的人，他们可能是本科生和研究生。”“他们推销它，把它框成'领先的人工智能研究人员相信......一些东西'，而事实上，人员结构包括各种学生。”人工智能影响在2023年调查中改变了其选择标准，将调查发送给更多机器学习会议的参与者，并且只发送给拥有博士学位的参与者。
除了方法问题外，Weiss-Blatt还指出了该调查如何影响当前媒体报道和人工智能的公众舆论。Weiss-Blatt说：“由于'科学家说，人工智能有5%的几率导致人类灭绝'这样的头条新闻，人工智能的报道变得疯狂。”“当一个普通人看到这一点时，他们认为他们也应该惊慌失措。他们正在开展一场资金充足的恐慌运动。所以，这不是好的新闻报道。这项调查的更好表现将表明，它是由“x-risk”有效的利他主义者资助、措辞和分析的。在“人工智能影响”和其他“人工智能安全”组织背后，有一台润滑良好的“x-risk”机器。当媒体报道他们时，它必须提到它。”
人工智能影响计划继续调整他们的调查，以应对未来的批评。对于即将到来的2024年调查，该小组已向外部来源寻求建议。Grace说：“我们这次做的另一件事是尝试让更多的人来运行这种方法。”“我们把它寄给了内特·西尔弗，因为他可能比我们更像这个领域的专家。他说这很棒。”当IEEE Spectrum联系时，Silver证实了他的参与。
