升级的数据保护和减少对云的依赖可能会锁定用户。
自 iPhone问世以来,智能手机中的许多智能都来自其他地方:被称为云的企业计算机。移动应用程序将用户数据发送到云端,以完成有用的任务,如转录语音或建议信息回复。现在, 苹果和 谷歌表示, 智能手机已经足够聪明,可以自己完成一些关键和敏感的 机器学习任务。
在 本月的苹果WWDC大会上,该公司表示,其虚拟助理 Siri将在近期和未来的iPhone和iPad上,不通过云端转录某些语言的语音。在 上个月的I/O开发者大会上,谷歌表示,其最新版本的 安卓操作系统有一个专门用于安全、设备上处理敏感数据的功能,称为私有计算核心。它的最初用途包括为该公司移动键盘中的智能回复功能版本提供动力,该功能可以对收到的信息提出答复。
苹果和谷歌都表示,设备上的机器学习提供了更多的隐私和更快速的应用程序。不传输个人数据可以减少暴露的风险,节省等待数据穿越互联网的时间。同时,将数据保存在设备上,符合科技巨头将消费者束缚在其生态系统中的长期利益。人们听说他们的数据可以被更私密地处理,可能会变得更愿意同意分享更多的数据。
这些公司最近推广设备上的机器学习,是在多年的技术工作之后,对其云端可以 "看到 "的数据进行限制。
2014年,谷歌开始 通过一种名为 "差异化隐私 "的技术收集一些关于Chrome浏览器使用情况的数据,该技术将噪音添加到收集的数据中,以限制这些样本对个人的揭示。苹果公司将这种技术用于从手机上收集的数据,为表情符号和打字预测提供信息,并用于网页浏览数据。
最近,两家公司都采用了一种叫做联合学习的技术。它允许一个基于云的机器学习系统在不舀入原始数据的情况下进行更新;相反,各个设备在本地处理数据,只分享经过消化的更新。与差异化的隐私一样,这些公司已经讨论过只在有限的情况下使用联合学习。谷歌已经使用该技术使其移动打字预测与语言趋势保持同步;苹果已经发表了使用该技术更新语音识别模型的研究。
曾为苹果公司提供隐私咨询的哥伦比亚大学助理教授雷切尔-卡明斯说,在手机上进行一些机器学习的快速转变令人震惊。"她说:"在这么短的时间内,看到一些东西从最初的构想到被大规模部署,这实在是非常罕见。
这一进展不仅需要计算机科学的进步,还需要公司承担起在消费者拥有的设备上处理数据的实际挑战。谷歌表示,其联合学习系统只在用户的设备插上电源、闲置并有免费网络连接的情况下才使用。这项技术的实现部分归功于移动处理器功率的提高。
更强大的移动硬件也有助于谷歌在2019年宣布,其Pixel设备上的虚拟助手的语音识别将完全在设备上进行,不受云计算的束缚。苹果公司本月在WWDC上宣布的Siri的新设备语音识别,将使用该公司 添加到其移动处理器中的 "神经引擎 "来增强机器学习算法。
这些技术上的成就令人印象深刻。但它们在多大程度上会有意义地改变用户与科技巨头的关系,这一点值得商榷。
苹果WWDC上的演讲者说,Siri的新设计是 "隐私的重大更新",解决了与意外将音频传输到云端有关的风险,称这是用户对语音助手最大的隐私担忧。一些Siri命令--如设置计时器--可以完全在本地识别,从而实现快速响应。然而,在许多情况下,向Siri转录的命令--估计包括来自意外录音的命令--将被发送到苹果服务器,由软件进行解码和响应。对于通常安装在卧室和厨房的HomePod智能音箱来说,Siri的语音转录仍将是基于云端的,在这种情况下,意外的录音可能会更令人担忧。
谷歌还将设备上的数据处理作为一种隐私胜利来推广,并表明它将扩大这种做法。该公司希望三星等使用其安卓操作系统的合作伙伴能够采用新的隐私计算核心,并将其用于依赖敏感数据的功能。
谷歌还将浏览数据的本地分析作为其 重塑在线广告定位建议的一个特点,该建议被称为FLOC,并声称更具有隐私性。学术界和一些竞争对手的科技公司表示,这一设计可能会帮助谷歌巩固其在网络广告方面的主导地位,使其他公司更难确定目标。
伦敦大学学院数字权利讲师Michael Veale说,设备上的数据处理可能是一件好事,但他补充说,科技公司宣传的方式表明,他们的主要动机是希望将人们捆绑在有利可图的数字生态系统中。
"隐私被混同于数据保密,但它也是关于限制权力的,"Veale说。"如果你是一家大型科技公司,并设法将隐私重塑为只对数据保密,那就能让你继续正常开展业务,并给你经营的许可。"
谷歌的一位发言人说,该公司 "在计算发生的所有地方都建立了隐私",发送到私人计算核心处理的数据 "需要与用户价值挂钩"。苹果公司没有对评论请求作出回应。
哥伦比亚大学的卡明斯说,新的隐私技术和公司推销它们的方式增加了数字生活权衡的复杂性。近年来,随着机器学习的广泛部署,科技公司已经稳步扩大了他们收集和分析的数据范围。有证据表明,一些消费者对科技巨头吹嘘的隐私保护有误解。
卡明斯和波士顿大学及马克斯-普朗克研究所的合作者即将进行的一项调查研究,向675名美国人展示了从科技公司、媒体和学术界得出的关于差异化隐私的描述。听到这种技术后,人们报告他们愿意分享数据的可能性增加了一倍。但有证据表明,对差异化隐私的描述也鼓励了不切实际的期望。五分之一的受访者希望他们的数据能得到保护,免受执法部门的搜查,而差异化隐私并不能做到这一点。苹果和谷歌关于设备上数据处理的最新声明可能带来新的误解机会。