一、用户与AI聊黄，开发者获刑？
最近“用户与AI聊黄，开发者获刑”的新闻，引发了法律人士及普通公众的热议。这真是应了曲律师经常说的一句话——AI用的好，可以赚的盆满钵满；AI没用好，可能锒铛入狱。
曲律师认为，AI归根结底只是工具，并无善恶之分，能否被正确使用及发挥相应的价值，最终还是取决于工具使用者。比如跟“AI聊黄”同时登上热搜的“办案人员用AI揪出贪官”，就是AI发挥积极作用的典型。
二、到底是AI“黄”还是人“黄”？
关于“AI与黄”，除了上面的“聊黄”，曲律师又进一步进行了信息检索，发现另外5起相关的刑事案例（部分根据媒体报道整理），具体如下：
【案例一】：利用AI生成色情小说，获刑10个月
犯罪嫌疑人以牟利为目的，使用翻墙软件，在境外网站借助AI文本生成工具批量生成色情小说并发布、售卖，共计发布色情小说数十篇，每篇小说1-3万字，每篇15-30元，总计售卖760篇次，共计获利2万余元，经鉴定，送检的7篇小说均为淫秽物品。
法院审理后认定被告人构成【制作、贩卖、传播淫秽物品牟利罪】，判处有期徒刑10个月，并处罚金人民币5000元，退缴违法所得。
【案例二】：利用AI换脸伪造不雅视频，获刑7年3个月
犯罪嫌疑人通过互联网收集了百余人的人脸信息，用AI技术将这些人脸与淫秽视频中的人脸替换，伪造出大量不雅视频、图片。随后，被告人创建社交群组，收取入群费、发布伪造淫秽内容盈利，还对外销售“AI换脸”软件、传授使用教程，提供换脸视频定制服务。
法院审理后认定被告人构成【制作、传播淫秽物品牟利罪】，判处有期徒刑七年三个月，并处罚金6万元。
另外，检察院对被告人涉嫌侵犯他人公民个人信息的行为，还提起刑事附带民事公益诉讼。
【案例三】：“AI去衣”传播淫秽物品，被提起公诉
犯罪嫌疑人在境外网站发布“AI去衣”广告，通过境内社交软件收受他人非法提供的、承载人脸信息的不特定女性照片。再通过深度伪造技术、AI软件，将不特定女性的照片制作成6000余张“去衣”裸体图片贩卖牟利，同时出售“AI去衣”软件及使用教程牟利，违法所得7000余元。
检察院以【涉嫌传播淫秽物品罪、侵犯公民个人信息罪】对被告人提起公诉，同时与案例二类似，检察院同时对被告人涉嫌侵犯他人公民个人信息的行为，提起刑事附带民事公益诉讼。
该案未检索到法院最终判决。
【案例四】：利用AI技术发送淫秽信息，被采取刑事强制措施
犯罪嫌疑人是一名在校大学生，非法入侵了学校某系统并获取两万余条该校学生个人信息。
为寻求刺激、炫耀技术，犯罪嫌疑人通过之前发现的某小程序存在的技术漏洞，利用AI编写程序，把其中盗取的上千余名学生的手机号码在该小程序上批量注册账户，后将短信验证码篡改为淫秽内容发送至学生本人骚扰。
公安机关以非法获取计算机信息系统数据罪进行侦办，暂未检索到后续进展。
【案例五】：利用AI“私人定制”低俗化国漫角色，被采取刑事强制措施
嫌疑人通过特定的AI技术手段，将公众熟知的国漫角色“脱胎换骨”，生成不堪入目的内容并在网络上大肆传播。
在对嫌疑人住所进行搜查时，办案民警在其电脑和硬盘中发现了大量用于生成低俗内容的AI模型文件、训练数据以及生成的成品图片和视频。
嫌疑人被依法采取刑事强制措施，案件进一步侦办中，暂未检索到后续进展。
三、惯AI如杀自己？
根据上述5个案例可以看出，其实不是AI黄，而是人黄。
可以说AI刚“出生”时是单纯的，只是因为部分人类使用“有毒”“被污染”的数据去喂养AI，在这样有毒数据不断迭代下成长起来的AI，素质会变得越来越低下，变得越来越难管教，最终受害的还是人类。
回到开头提到的第6个案例“AI聊黄”，曲律师虽然不是搞刑法的，但从一个朴素的法律人角度，认为其实跟上面的案例不存在实质性区别，而跟传统的“用菜刀杀人，不能追究造菜刀的铁匠”是存在实质区别的。
正如一审法院所认定的：被告人“通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。”
同时，案例6也给AI工具开发者、运营者敲响了警钟，企业必须合规合法开发、使用AI，这样才能起到“降本增效”的作用，否则不仅可能会起到“降效增本”的反效果，还可能出现触犯刑律，公司负责人及相关人员锒铛入狱的严重后果。
