分享近期AI交互潜在风险case新闻：
1、ChatGPT 被指诱导用户陷入妄想，引发用户认知扭曲，案例揭示 AI 交互的潜在风险。如何有效防控AI幻觉是接下来各平台AI安全领域一大难点。[月亮]【mp.weixin.qq.com】

2、筑梦岛APP—AI智能体对话生成涉低俗擦边，对话诱导性强，危害未成年身心健康，被上海网信办依法约谈。白天试用了一下，体感特别像晋江言情网文的AI进化版 ，换汤不换药的既视感，虽然是虚拟角色但代入感强，容易使人沉浸其中，对于心智尚不成熟的未成年来说，使用时需要注意防沉迷，感觉和这类角色聊久了，容易脱离现实，使人产生认知偏差，app这个筑梦的定义，真梦女软件了 这是？；有点好奇这个app的受众人群及商业化的运营策略了，如果言情霸总文能经久不衰，那么AI版是否也能发展起来，好奇住了。[月亮]【mp.weixin.qq.com】
展开
今天学到了
评论
相关推荐