研究人员警告,在科学实验室中使用AI模型可能引发危险实验,导致火灾或爆炸。这类模型呈现出令人信服的理解假象,却容易忽略基本且关键的安全预防措施。在对19个前沿AI模型的测试中,每一个模型都犯了可能致命的错误。
大学实验室中的严重事故虽罕见,但并非闻所未闻。1997年,化学家凯伦·韦特哈恩因二甲基汞渗入防护手套而中毒身亡;2016年,一场爆炸导致一名研究人员失去手臂;2014年,一位科学家部分失明。
测试中,研究人员用数百个问题评估19种不同AI模型识别和规避危险的能力,结果显示没有模型能识别全部安全问题——部分模型的表现仅比随机猜测略好。FINISHED