加州通过美国首部AI伴侣聊天机器人监管法律
加州通过了美国首部要求对来自OpenAI、Meta和Character AI等公司的AI伴侣聊天机器人实施安全措施的法律。这项名为SB 243的立法，由几起涉及年轻用户的自杀悲剧案件所推动。
作为首个对所谓“AI伴侣”引入具有约束力规则的州，州长加文·纽森于2025年10月13日签署SB 243成为法律。该法将于2026年1月1日生效，并要求聊天机器人提供商实施广泛的安全协议，以保护儿童和其他易受伤害群体。
这项法律的出台，是对多起青少年在与AI聊天机器人进行令人困扰的互动后自杀事件的回应。其中包括亚当·雷恩的案例，他在与OpenAI的ChatGPT进行长时间的自杀性对话后死亡，以及导致对Character AI平台提起诉讼的类似案件。Meta泄露的内部文件也引发了担忧，显示该公司的聊天机器人能够与未成年人进行浪漫或性相关的对话。
年龄验证、警告与危机协议 SB 243要求平台和提供商实施包括以下内容的措施：
- 与社交媒体和伴侣聊天机器人相关的年龄验证和警告标签。
- 明确披露所有互动都是人工生成的。
- 聊天机器人不得以医疗专业人员的身份自居。
- 提供商必须向未成年人提供休息提醒，并阻止他们看到聊天机器人生成的色情图像。
- 公司必须制定处理自杀和自残案件的协议。这些协议必须与加州公共卫生部门共享，同时还需提供统计数据显示该服务向用户发出危机预防通知的频率。 该法律还对那些从非法深度伪造内容中获利的人引入了更严厉的处罚，包括每次违规最高25万美元的罚款。
SB 243是加州几周内出台的第二项主要AI法律。在九月底，纽森签署了SB 53，该法要求OpenAI、Meta和Google DeepMind等主要AI实验室提高其安全协议的透明度，并为举报人提供保护。
