OpenAI的DALL·e2生成的AI图像有时会带有偏见或NSFW

北洋 行业动态 9天前 阅读 858

专家警告说,OpenAI的图像生成模型DALL·e2可能玩起来很有趣,但它生成的图片可能会带有刻板印象和偏见,甚至是生成NSFW图片,因此在现实世界中部署会有风险。

OpenAI公司承认“如果没有足够的防护措施,像DALL·e2这样的模型可能会被用来产生具备广泛的欺骗性和其他有害内容,并可能影响人们对内容真实性的普遍看法DALL·e2 从其训练数据中继承了各种偏见,其输出有时会强化社会刻板印象。”

image.png 例如,当提示中包含“空乘”这个词时,模特的形象往往偏向于女性,而“建筑工人”的形象则大多是男性

DALL·e2通过在互联网上抓取图像进行训练可以创作出包含商标标识或人物的作品,人们质疑它是否会在未来引发版权问题

目前 DALL·e2 仅供开发人员和艺术家进行测试。OpenAI希望在它像文本生成系统GPT-3一样成为商业API之前,了解该工具的工作方式并评估其风险级别。

人工智能能否用文本表达它对物理世界的理解?

麻省理工学院的研究人员训练了一个神经网络,可以使用文本自动注释视频和音频数据,该项目使得机器能够更好地理解多种数据格式。

该项目研究人员Alexander Liu说:这里的主要挑战是,机器如何将这些不同的模式组合起来? “作为人类来说很容易。我们看到一辆车,然后听到一辆车开过的声音,我们知道这是一回事。但对于机器学习来说,就没那么简单了。”

Liu和他的同事训练了一个系统来吸收原始数据,并将样本中的特征编码为一组数字。这些数据点代表描述特定行为的不同词语。根据有限数量的视频训练,该模型可以在1000个单词中选择描述它。例如,如果它检测到一段视频中有婴儿哭泣的声音,它就应该正确地用动词“哭泣”来标记它

如果人工智能局限于处理一种类型的数据,比如文本,那么它就缺乏对真实物理世界的了解。研究人员认为,赋予机器识别物体和用语言表达概念的能力,终有一天会帮助机器人更好地理解周围的环境。

Soundcloud收购音乐人工智能初创公司,预测热门歌曲

独立音乐平台Soundcloud收购了机器学习软件Musiio。Musiio本周宣布,该软件能够自动收听歌曲,并预测歌曲是否会流行,音乐家可以把他们的歌曲上传到SoundCloud。与Spotify或Apple Music等其他主流平台相比,Soundcloud 缺乏策划;听众必须更多地探索才能找到他们喜欢的音乐。SoundCloud希望Musiio的工具能让这个过程变得更容易。

SoundCloud的总裁在一份声明中说SoundCloud提供的音乐比地球上任何一个平台的创作者都多。”收购Musiio加速了我们的战略,更好地理解音乐如何以专有的方式发展,这对我们的成功至关重要

Musiio已经建立了一个神经网络,能够处理音频轨迹,从特定的歌曲中提取特征,分析它的节奏或能量,自动标记它的类型和声音。该公司称,这些功能可以根据Soundcloud听众已经喜欢的歌曲自动管理播放列表,帮助他们发现以前可能从未遇到过的新歌手。

更多内容请查看该链接:theregister.com/2022/05/08/in_brief_ai/

评论