最近,有研究人员发现LinkedIn上有人使用AI合成的照片来建立个人档案,进一步调查后发现,至少有超过1000张伪造的照片,并且这些假冒的LinkedIn帐号被用来替企业进行推销。
最先发现此事的事,斯坦福大学研究员Renée DiResta。她自己收到了一个来自LinkedIn用户Keenan Ramsey的讯息,Ramsey宣称自己是LinkedIn一个企业家社团的成员,询问DiResta 是否对在设备上统一进行存取信息、影片或者电话的软件感兴趣。
DiResta虽然对讯息的内容不感兴趣,但她仔细查看了Ramsey的个人档案,发现Ramsey耳环只戴了一边,发丝时有时无,而且眼睛完全处于图片的中心线。这一切都太异常了,因此DiResta把情况告诉了同事Josh Goldstein。
结果,两人在LinkedIn上发现至少有1000个帐号使用的照片是由AI生成的,并且这些个人档案隶属于70+公司。
如何辨别照片是AI生成的呢?两位研究人员表示重点查看的部分就是眼睛的位置、背景是否模糊、装扮是否奇怪。
到底是谁在伪造个人档案?目的又是什么呢?研究人员表示这应该是营销公司的“杰作”,他们通过建立假账号来进行商品推广,这种利用AI生成的方式成本更低。
目前,LinkedIn在收到研究人员的通知之后,确认并删除了这些假账号。