研究人员警告称，黑客已开始利用大型语言模型编写代码，对AI系统发起攻击，随后再利用这些被攻破的AI系统去攻击其他AI机器。
以色列Oligo Security公司发现了针对Ray软件的大规模利用证据，这一里程碑事件标志着网络世界正迈向AI持续对抗AI的新阶段。Ray是一款旨在帮助开发者管理AI项目并分配计算资源的软件。
据Oligo的AI安全研究员Avi Lumelsky介绍，研究人员发现尽管该公司曾发布警告，仍有超过23万台Ray服务器处于在线状态，这可能使它们容易遭受网络攻击。Lumelsky表示，他"非常确信"大型语言模型——如OpenAI的ChatGPT和Anthropic的Claude——被用于生成代码，以命令被攻破的服务器挖掘加密货币，尽管他无法具体指出使用了哪些模型。他指出，当LLM被用于生成恶意代码时，会存在可识别的"痕迹"，包括代码中某些注释和字符串的不必要重复。
Oligo的首席技术官兼联合创始人Gal Elbaz表示，这些Ray服务器还被用于自主搜寻更多攻击目标，将其操作转变为自我传播的僵尸网络，这表明"AI基础设施可以被劫持来攻击自身"。Oligo将此攻击命名为ShadowRay 2.0，这是对其去年检测到的黑客攻击的更新。FINISHED CSD0tFqvECLokhw9aBeRqnk7jlSedZi6M+5d0TwgfTSVBhEMVLPbu0jFWVwSzJGP92HyyK72FuLct/QnYxo030Y6dqs7Iyuv+8UiV2u7QdlOxOwmuTZAbnwaFXkDLvCA
