Claude的电脑使用能力:AI的崭新篇章
Claude杀疯了!AI已经学会操控电脑了!大半夜的,Anthropic直接放了个大招,Claude竟然学会玩电脑了?这可是个大新闻!
电脑使用能力概述
那么,到底什么是电脑使用能力呢?简单来说,Claude现在能像人类一样用电脑,能够查看屏幕、移动光标、点击按钮和输入文本,真是太酷了!想象一下,AI不仅能给你写代码、回答问题,现在还可以直接在电脑上执行任务,简直是未来科技的缩影!
(PS:如果你需要Claude 升级教程,请查看Claude订阅升级完整教程)
Claude如何学会用电脑
Claude是如何学会用电脑的?这背后是Anthropic之前的工具使用和多模态研究,为Claude的新技能奠定了基础。操作电脑需要图像识别和理解能力,还需要根据屏幕上的内容进行推理和执行特定操作。研究人员将这些能力结合起来,训练Claude解读屏幕上的内容,并使用可用的软件工具执行任务。
具体来说,当开发者要求Claude使用某个软件并授予其访问权限时,Claude会查看屏幕截图,计算光标需要垂直或水平移动多少像素才能点击到正确位置。精确计算像素对Claude至关重要。如果Claude无法做到这一点,就难以发出鼠标指令,就像很多模型难以回答“‘banana’中有多少个‘A’”这种看似简单的问题一样。令人惊讶的是,Claude目前仅在少量简单软件(如计算器)上表现良好,但为了安全起见,训练期间Claude无法访问互联网。
Claude的其他技能与这种训练相结合,使其能够将用户的书面提示转化为一系列逻辑步骤,并在计算机上执行操作。研究人员甚至观察到,Claude在遇到障碍时,会自我纠正并重试任务。虽然Claude的进步神速,但Anthropic的研究人员也经历了大量的试错,才取得了最终的突破。
电脑使用能力的水平
目前,Claude在以人类的方式使用电脑方面,处于最先进的水平。在一个名为OSWorld的开发者测试中,Claude的得分是14.9%。虽然远不及人类水平(通常为70-75%),但较高于排名第二的AI模型(7.7%),这足以证明Claude的潜力。
如何确保AI安全地使用电脑
AI的每一次进步,都伴随着新的安全挑战。操控的能力降低了AI系统应用现有认知技能的门槛,但并没有从根本上提高这些技能。因此,Anthropic主要关注的是当前的危害,而不是未来的危害。他们的信任与安全团队对Claude的电脑使用模型进行了广泛的分析,以识别潜在的漏洞。
其中一个问题是“提示注入”,这是一种网络攻击,恶意指令被输入AI模型,导致模型覆盖之前的指令,或执行用户预期之外的操作。由于Claude可以解读连接到互联网的电脑的屏幕截图,因此可能会接触到包含提示注入攻击的内容。在公开测试版中使用Claude的电脑使用版本的用户,应采取相关预防措施,最大程度地降低此类风险。
与任何AI功能一样,用户的恶意使用也是一个潜在问题。Anthropic的团队开发了分类器和其他方法,用于标记和缓解此类滥用行为。鉴于即将到来的大选,Anthropic对可能被视为破坏公众对选举进程信任的滥用行为保持警惕。
未来展望
展望未来,我们会通过初步部署的反馈不断学习和改进,提升Claude的能力。这将帮助我们更好地理解AI系统的潜力和影响,期待更多惊喜!随着技术的进步,Claude的能力将不断扩展,给我们的工作和生活带来更多便利。