年终王炸!Amazon Q重磅登场,云巨头开创企业级生成式AI新赛道

2 阅读13分钟
【新智元导读】就在刚刚,亚马逊云科技祭出了全新AI「大杀器」Amazon Q。不仅只用两天时间就升级了上千款Java应用,更是将企业的数据屏障一举击穿。

最近的消费级大模型,可以说卷得相当厉害。

不仅多模态能力几乎全面铺开,而且上下文长度也已经飙到了200K。

但对于企业来说,消费端的模型有着难以控制的幻觉,以及频繁被爆出的隐私泄露问题,甚至连自家企业都给禁用了。

image.png

相比于这种「油门踩到底」的加速式发展,作为全球第一的云计算公司,亚马逊云科技在策略上则要稳健得多。

在2023 re:Invent全球大会上,亚马逊云科技首次推出了名为「Amazon Q」生成式AI助手——专为企业用户量身定制——在满足业务严苛需求的同时,保证信息的安全可控。

除此之外,大会还在芯片、AI平台等多个领域扔出了生成式AI年终王炸。

image.png

值得一提的是, Q这个名字来源于「问题」(question),同时也是对007系列中的天才角色,以及「星际迷航」中的强大种族的致敬

如今,大模型的竞争已经来到下半场,在这个全新的时代,亚马逊云科技也开创了属于企业级生成式AI的全新范式,帮助他们在各自的领域创造「颠覆格局」的AI产品。

image.png

Amazon Q:定制AI助手、专精企业数据

作为本届re: Invent上备受期待的发布,全新的生成式AI助手Amazon Q可以说完全是为客户的业务需求量身定制的。

基于亚马逊云科技17年的知识积累,Amazon Q不仅会向用户提供多个潜在的解决方案,还会解释清楚为什么会提出这样的建议。

image.png

根据亚马逊云科技CEO Adam Selipsky的介绍,Amazon Q可以和我们聊天、生成内容,还能采取行动。如何使用它,取决于我们对系统、数据存储库和运营的理解。

打破数据业务屏障,全面互联互通

对企业来说,Amanzon Q对于信息管理和工作流的重构,都有着重大意义。

很多企业都面临着这样的痛点——

虽然企业掌握着分布在多个文档、系统和应用程序中的大量信息,但是从财务、人力资源,到营销和销售,每个组织的员工在日常工作中都会都耗费大量时间搜索内部信息源、拼凑分析结果、写报告、做PPT,还得针对不同受众调整内容。

而目前市面上的通用解决方案,并未与内部资源相连,也不了解使用者的身份、角色和权限,无法确定员工在工作中应该访问哪些资源。公开的解决方案,可能会使用数据输入和输出进行训练,存在安全和隐私风险。

即使有一些生成式AI方案,但它们只能在特定工具内工作,不能扩展到企业的所有系统和应用中,限制了员工充分利用AI的潜力。

image.png

使用Amazon Q,我们可以把它与公司的业务数据、信息、系统连接起来,它就可以综合所有信息,提供量身定做的解决方案。

它内置了40多个常用的数据源连接器,包括Amazon S3、Dropbox、Confluence、Google Drive、Microsoft 365、Salesforce、ServiceNow和Zendesk,还能为内部Intranets、wiki、run books等建立自定义连接器。

当Amazon Q综合了所有信息,我们就可以部署自己的智能助手了。它会生成一个Web应用,让员工使用身份验证系统来访问程序。

智能助手自己造

自定义配置完成后,Amazon Q会索引到所有它连接是数据和内容,学习企业知识,包括组织结构、核心概念和产品名称。

所有使用Amazon Q的客户,都可以选择最适合自己的模型,连接到模型的Bedrock API上,然后使用模型来了解数据、策略和工作流程,最后完成Amazon Q的部署。

image.png

然后,员工就可以让Amazon Q来完成总结或生成文章、撰写邮件,以及创建服务工单、创建会议议程、给团队发通知等等的工作了。甚至,还可以上传word、PDF、Excel,来提问文件中的问题。

此外,如果问题涉及到多个数据来源,Amazon Q会综合相关内容,在给出答案的同时,附上参考链接。

image.png

两天升完1000款应用

亚马逊云科技内部的一支团队完成了一项创举:短短两天内,就在Amazon Q的加持下,将上千款应用程序从Java 8升级到了Java 17。

这种奇迹般的神速,靠是就是Amanzon Q的代码转换功能。

具体来说,亚马逊云科技的CodeWhisperer,可以生成和解释代码。结合此功能,在受支持的IDE(如CodeCatalyst),Amazon Q可以根据客户代码的知识生成测试,从而完成对软件的基准测试。

它还可以在软件中实现新功能,转换代码,升级代码包、存储库和框架,而这些,都可以用自然语言完成。

image.png

因为对亚马逊云科技,以及它提供的产品和服务有透彻的了解,Amazon Q可以理解应用程序工作负载之间的细微差别。

如果你问它,关于高性能视频编解码程序的最佳EC4实例,Amazon Q会给出一个列表,综合考虑从性能到成本的各个因素。

Selipsky表示,Amazon Q具有革命性的意义,从事各种类型工作的人,都将从中受益。

破除幻觉,保障安全

针对生成式AI系统普遍面临的幻觉问题,Amazon Q是怎样解决的呢?

为了减轻幻觉,管理员可以选择让Amazon Q仅从公司文档中提取知识,而不是从基础模型中。

image.png

Amazon Q给出的答案、采取的行动,也都是完全可控、可过滤的。

它提供的答案和间接,会严格忠实于客户提供的源材料和知识。而且,它只会返回用户有权查看的信息,管理员也可以限制敏感主题,让它过滤掉不适当的问题和答案。

比如,可以把Amazon Q设置为只回答安全团队提出的安全相关问题,或从公司内部目录中,提取与人员有关问题的答案。

而且,客户的数据也是绝对安全的。驱动Amazon Q的模板包括Bedrock平台中的模型,以及亚马逊云科技自己的Titan系列,这些模型都不会用客户的数据进行训练。

因此,出于安全原因对生成式AI持谨慎态度的公司,可以放心使用Amazon Q。

Amazon Bedrock重磅升级:全新模型、自动解决「选择困难症」

今年4月,亚马逊云科技首次官宣Amazon Bedrock,一个能够提供基础模型的服务平台。

这一平台最大的特色,就是让开发者能够轻松定制模型,并松构建属于自己的生成式AI应用程序。

从发布至今,Amazon Bedrock已经集成了大量的第三方模型,以及亚马逊自研的Titan模型。

image.png

这次,Amazon Bedrock再次迎来了升级。

在自研基础模型方面,亚马逊云科技全新推出文生图模型Amazon Titan Image Generator。与此同时,还发布了两个关注文本处理任务的模型Amazon Titan Text Lite和Amazon Titan Text Express。

此外,全新升级第三方模型Claude 2.1,Stability Diffusion XL 1.0、Llama 2-70B也加入了Amazon Bedrock。

AI生图模型登场,还可添加隐形水印

当前,AI生图已经进入白热化阶段,DALL·E 3、Stable Diffusion、Midjourney等AI工具在业界引起巨大的反响。

同样,亚马逊云科技也加入了这场大战。

re:Invent大会上,全新的Amazon Titan Image Generator只需要一个指令,能够生成各种逼真的图像。

比如,你可以让它生成一张雪景中的木屋,甚至还可以动嘴更改主题、背景等。

image.png

再比如,当你想要一个背包的时候,你可以让Amazon Titan Image Generator为你搜索相关图片,并做出推荐。

最令人惊艳的是,当你选好其中一个书包,但又不知道在不同场景中的效果如何。

这时,你就可以让AI生图工具,为你「想象」,也就是我们常见的「图像扩展」能力。

深蓝色帆布包,放在在下雪天中,已经在教室中,给人的感受更加直观了。

image.png

Amazon Titan Image Generator是在广泛的领域的各种数据集上完成训练,可以选择在自定义数据集上进行微调。

对此,开发人员还可以在此基础上构建自己的图像生成器,由Amazon Bedrock上的模型提供支持。

image.png

Amazon Titan Image Generator生成的所有图像都包含了隐形水印,不会干扰图像的视觉效果,没有延迟,并且不会被裁剪或压缩。

而且,水印并不局限于文件的元数据。

对于如何检测不可见的水印,亚马逊云科技还创建了一个API,输入图像便可以看见图像来源。

亚马逊云科技进军AI图像生成领域,标志着该公司人工智能战略进入了一个新阶段。

Amazon Titan Image Generator未来可能被证明是AI驱动内容创作中,新应用的催化剂。

通过提供强大的工具和法律保障,亚马逊云科技有望在人工智能图像生成领域留下浓墨重彩的一笔。

文本模型同步上新

除了Amazon Titan Image Generator,大会上,亚马逊云科技还更新了两个文本生成的模型。

一个是Amazon Titan Text Lite,用于文案写作等基本任务,结构紧凑非常适合微调。

另一个是用于对话聊天的应用程序Amazon Titan Text Express,专为较大的任务而设计,并且同时兼顾了价格和性能。

image.png

终结大模型「选择困难症」

然而,没有哪一个模型是可以完美适应所有应用场景的。不同的模型在能力、价格和性能上也各有千秋。

在选择对比的过程中,企业首先需要花费数天时间来确定评价基准、配置测试工具,然后才能进行实际的评估。

这不仅需要深厚的专业知识,而且由于现有的测试并不适合一些主观标准的评估(如相关性和风格),企业也因此不得不引入人工审查来进行判断。

如此繁琐且耗时的流程,极大地限制了企业利用生成式AI的潜力,尤其是对于需求场景复杂多样的客户来说。

针对这一问题,亚马逊云科技在Amazon Bedrock平台上全新发布的Model Evaluation,能够帮助客户评估AI模型的能力。

image.png

模型评估有两个组成部分:自动评估和人工评估。

在自动化评估中,开发人员可以进入Amazon Bedrock控制台,选择要评估的模型。如Llama 2、Claude 2和Stable Diffusion等等,都可以进行选择。

然后,他们可以评估模型在摘要总结、文本分类、问答和文本生成等任务的稳健性、准确性或安全性等指标上的性能。

评估过程中,亚马逊云科技会提供测试数据集,不过,客户可以把自己的数据引入基准测试平台,以便选择更适合自身业务场景的模型。

对于人工评估来说,客户可以选择与亚马逊云科技评估团队合作,或与自己的团队合作。

然后,客户提供指定的任务类型(比如摘要或文本生成)、评估指标以及要使用的数据集,并会得到定制的定价和时间表。

四大重构,让生成式AI更普惠

生成式AI大红大紫当下,每家企业,每个开发者都有机会,创造出时代爆款应用。

Andy Jessy曾经提过:任何人哪怕在自己的宿舍,或者车库里开始自己的创新之旅,也能获得与大型企业一样的基础设施和成本优势,来实现自己的创新。

值得一提的是,目前全球有80%的独角兽企业,都在使用亚马逊云科技的技术。

这次re:Invent大会上,这家科技巨头更是利用20多年在深度学习技术积淀,把自身产品进行了重构。

重构基础设施、重构存储、重构计算、还有重构生成式AI。

在重构生成式AI过程中,亚马逊云科技提供了个完整全链路工具栈,包括底层的基础设施,中间微调模型需求的工具服务,以及最上层应用层。

image.png

第一层「基础设施」,亚马逊云科技这次推出了第四代自研服务器CPU芯片Graviton4,比起第三代处理速度快30%。

还有专为生成式AI训练设计的云端AI芯片Trainium2,比上一代芯片性能提高4倍。

除此之外,亚马逊云科技还与英伟达合作推出带有32个GH200超级芯片的超算——NVIDIA GH200 NVL32,用于加速训练1万亿参数的AI大模型。

image.png

在第二层模型层中,亚马逊云科技提供了模型调用平台Amazon Bedrock、Amazon Bedrock Agent,以及云机器学习平台Amazon SageMaker等等。

在最上层应用层中,除了Amazon CodeWhisper、Amazon QuickSight,这次全新增加了Amazon Q人工智能助手。

很明显,亚马逊云科技凭借其独特的三层技术栈,能够为客户提供全面的工具链条,去打造符合自身业务场景的应用。

一直以来,亚马逊云科技的使命是,帮助不同规模、不同体量的客户降低创新门槛。

在生成式AI时代下,也不例外。我们所有人都能深切地感受到,生成式AI的创新能力的重要性。

企业若想在这波AI浪潮中实现创新,构建面向百万、上亿用户的原生应用,都需要算力、数据端到端的能力、模型工具等服务。

亚马逊云科技所做的努力恰恰为企业和开发者开辟了新的契机,通过构建完成的技术体系,助力生成式AI全面落地。

在这个新的节点上,亚马逊云科技再次做到了通过创新降低AI门槛,进而赋能千行百业。

参考资料:

press.aboutamazon.com/2023/11/aws…

press.aboutamazon.com/2023/11/aws…

techcrunch.com/2023/11/29/…