EPFL的新研究发现,土耳其当地的Twitter热门话题中几乎有一半是假的,这种操纵的规模在以前是闻所未闻。该团体还首次证明了,由于Twitter的热门算法存在漏洞,许多热点完全是由机器人创造的。
在我们日常生活中,社交媒体已经变得无处不在。它改变了人们的互动方式,用以前无法想象的方式将我们联系起来。以前我们的社交媒体网络可能由一小群朋友组成,而现在大多数人都只是更大社区的一部分,这些社区影响我们的阅读、行动甚至思考。
有一种影响机制是 "Twitter热门"。该平台使用一种算法来确定在特定时间点变得流行的标签驱动的话题,并提醒twitter用户全球和本地的热门词汇、短语、主题和流行标签。
现在,来自计算机和通信科学学院的分布式信息系统实验室的聚焦于土耳其Twitter的新研究,发现了决定Twitter热门话题算法中的一个漏洞:它不考虑删除。这使得攻击者可以将他们想要的热门推到Twitter榜单的顶端。
"我们发现,攻击者同时采用了假的和被攻击的账户,这些账户是普通人用偷来的凭证,或者在手机上安装了恶意的应用程序。一般来说,他们不知道自己的账户被用作操纵热门话题的机器人,有时他们知道,但不知道该怎么做,在这两种情况下,他们都会继续使用Twitter,"该研究的作者之一Tuğrulcan Elmas说,他的工作已经被IEEE欧洲安全和隐私研讨会2021年接受。
"我们发现,47%的土耳其本地热门和20%的全球热门是假的,都是由机器人从头开始推动创建的。在2015年6月至2019年9月期间,我们发现了10.8万个涉及的机器人账户,这是这篇论文中报告的最大的机器人数据集。Elmas继续说:"我们的研究是第一个发现如此规模的Twitter热门操纵行为的研究。发现了包括网络钓鱼应用程序、赌博促销、虚假信息活动、政治口号、针对弱势群体的仇恨言论,甚至是求婚等虚假热点。”
"这种操纵行为具有严重的影响,因为我们知道Twitter热门会引起关注。“该论文的另一位作者Rebekah Overdorf说:"社交媒体的热门通常被看作是人们正在关注的重点,但不幸的是,这是一个被操纵的热点,扭曲了公众对实际发生的事件的看法。例如,我们发现的一个被操纵的热门标签是#SuriyelilerDefolsun,被翻译成'叙利亚人滚出去',然后这个标签被几个新闻报道、其他社交媒体平台和学术论文所采用。Overdorf继续说:"实际上,这完全是捏造的。”
研究人员两次联系Twitter,该公司两次都承认了其算法中的漏洞。在第一种情况下,Twitter拒绝做出任何改变,在第二种情况下,该公司没有回应研究人员的后续电子邮件。"问题还没有得到解决。很明显,在算法的漏洞得到纠正之前,对手将继续用同样的攻击方法制造虚假热点。"Elmas总结说。