一、 AI治理现状
1. 目前难点：标识难、维权难、侵权争议大。
2. 各平台重点关注AIGC问题集中在四个领域：虚拟数字人直播、AI换脸、AI种草带货、AI内容标识。
3. 举例：AI谣言
1） 定义：内容与官方信源不符或违背科学真实性，伪造数据、事件、发生日期等，以此来博眼球获取流量，扰乱公共秩序。
2）处理手段：平台对违规账号和内容进行处罚；官方发布辟谣专区，帮助用户更好识别；严重程度如触犯法律，移交公安部门。
4. 目前典型新媒体平台都提供AIGC声明标签，平台是否主动监测AIGC并打标的处理动作如下，对于如何更好地识别平台内更多潜在未识别出的AIGC内容，是接下来的一大挑战。
1） 抖音（发布时可注明有AI生成，对疑似AI内容会主动打标）、
2） 小红书（发布时可注明有AI生成，疑似AI内容进行主动提醒？）
3） B站（发布时可注明有AI生成，设置“创作者声明”在web端可见，对疑似AI内容的处理方式不明）
4） 快手（发布时可注明是否有AI生成，对疑似AI内容有主动打标，其他处理方式不明）
5） 微博（用户自主声明、主动监测打标）
二、 针对AI内容治理采取的各平台官方行动回溯
1、抖音——明确规范、打击。要求创作者对人工智能生成内容进行显著标识，以便于用户区分虚拟与现实；明确禁止利用生成式人工智能技术创作、发布侵权虚假内容，严厉打击违规行为。
⭐2023年5月9日发布倡议《抖音关于人工智能生成内容的平台规范暨行业倡议》：旨在规范AI生成内容的使用，避免虚假信息和侵权问题。规范要求：
① 创作者应显著标识AI生成内容，避免用户混淆。
② 创作者应为AI生成内容产生的后果负责。
③ 虚拟人需在平台注册，虚拟人技术背后的使用者需实名认证。
④ 禁止利用AI生成技术发布侵权内容。
⑤ 禁止利用AI技术创作发布虚假谣言等不实信息。
⭐2023年9月：抖音安全中心要求创作者明确对AI生成内容进行显著标识；禁止利用AI技术发布虚假侵权等内容的违规行为。
- 处理手段：对于未标注或标注错误的用户，平台将会提醒创作者添加，过程中可能会限流直至正确添加为止；对于屡次不添加的惯犯账号，平台会视违规情节和造成的影响，对账号进行不同程度的处罚。
⭐2024年3月27日：关于不当利用AI生成虚拟人物的治理公告。
- 治理的重点行为包括：
（1）生成境外虚假人设，消费爱国心理、博取关注。用虚假的外国人形象，以想嫁给中国、想到中国生活、评价社会事件等言论博眼球。
（2）生成俊男美女的虚假形象，骗取互动，交友导流。直接称用户为妈妈老公等，发布情感诱导、唱情歌为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。
（3）生成精英人设虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。
- 处理手段：
（1）下架违规视频、限制违规账号的投稿和营利权限、抹除粉丝、封禁账号
（2）对于黑产团伙的犯罪线索，将联系有关部门，报警打击。
（3）官方引导倡议：发起官方活动、制作视频
- 处理结果：违规视频量、评论量、账号量
2、小红书——甄别内容真实性，要求创作者明确对AI生成内容明确标注；加大AI识别模型的研发投入，从机器识别+人工识别尽可能减少AI生成低质内容的曝光；针对侵权、虚假等内容第一时间下架。
-
2023年9月12日，官方发布《关于“内容自主声明”功能的上线公告》，要求创作者明确对AI生成内容明确标注。
-
2024年2月《小红书针对AI创作内容的平台主张》：①尊重他人肖像权禁止任何以他人照片或视频进行换脸的行为。②主动声明AI技术创作的内容，避免用户混淆。③禁止任何通过AI技术制作和发布的违反社区规范的内容。④禁止任何使用AI创作内容虚构使用体验或效果进行商业变现的行为。
3、B站
-
2021年12月，官方发布《关于AI换脸相关内容标识的说明》：该类内容上方会出现该视频疑似使用智能合成技术，请谨慎识别的显著标识，以便用户甄别，防止产生误解，侵害他人权益。
-
2023年9月14日，官方发布《关于“主动添加内容标识”的公告》，将在9月20日，上线“创作者声明”功能（支持web端设置），可对AIGC生成内容进行标识。
-
目前官号每周发布AI谣言治理公告，核查事实溯源机制非常重要，谣言主要包括伪造事件，制造虚假信息，或者编造与科学真实性不符的内容。处理结果包含违规视频量、评论量、账号量。
4、快手
- 2023年9月《2023暑期青少年数据报告》暑期开展未成年网络环境专项能力，整治利用AI技术（AI换脸/绘图）传播未成年有害信息。专项提升算法识别，进一步细化审核规则，从严审核处置不良的视频。
- 2024年07月23日 官方发布主动为AI生成的内容添加作者声明。
- 2024年12月19日 官方发布可灵AI导演共创计划
5、微博
2025年3月11日 官方收集用户关于AI治理的社区规则意见，收集中表示将对未主动标注AI的内容进行技术、人工和用户举报投诉等多方的监测识别，并对其中违规内容，根据情节严重程度采取梯度性的处罚机制。
三、未来如何加强AI识别治理
1. 创建AI创作信用分，积分分层管理。如设置当积分低于一定分数，限制账号流量或商业推广等方式，来提醒创作者要谨慎使用AI工具。
2. 进一步加强AIGC滥用的处罚力度，特别是在时政、灾难、警情等方面。
3. 反向溯源：收集典型AI水军账号的行为特征（IP聚集、时间聚集、内容聚集），建立相关识别模型，不断优化迭代，增强系统的自动识别能力。
4. 掌握更多有公信力的信源，加强与有关政府机构协作，另外，当事人出来官方发声也有助于虚假信息的识别。
*参考资料源：各新媒体平台的官方账号和用户观点
以上整理仅作为个人学习使用，非原创不商用，同时欢迎行业前辈交流，共同进步。*
