Gloo推出了Gloo AI Studio，一个为信仰和使命驱动组织打造的AI平台，强调价值观一致性和治理。它支持多模型，可集成用户数据，并已吸引世俗企业关注，预示其AI一致性方案有望成为行业标准。
译自：Gloo built a faith-based AI platform that already has secular interest
作者：Frederic Lardinois
AI 模型在避免“幻觉”方面已取得很大进展，前沿实验室也倾向于为其服务设置严格的防护措施，以避免有害内容。但对于信仰组织而言，这往往不够。他们希望模型能够直接与他们的价值观相 一致。
这正是 Gloo 的目标受众。Gloo 公司于周四宣布推出 Gloo AI Studio。该公司称其为“面向信仰和使命驱动开发者的生产级 AI 开发平台”，它将价值观一致性和治理直接嵌入到基础设施层。
Gloo AI Studio 不再依赖默认系统提示和临时内容策略，而是在每次模型调用时应用可配置的约束系统。由于它与模型无关，因此可以为 OpenAI、Anthropic 和 Google 的模型以及开源模型提供此功能。
Gloo AI 总裁 Steele Billings 在接受 The New Stack 采访时表示，这始终是 Gloo 使命和路线图的一部分。
他说：“我们构建 Gloo AI Studio 是为了让治理和价值观一致性成为基础，而不是可选项。”像许多企业、教堂、非营利组织和信仰大学一样，他们希望使用 AI 并提供基于大型语言模型服务，但这些模型必须与他们的价值观保持一致。
在某种程度上，这对任何世俗企业来说也是如此。在我们的对话中，Billings 暗示 Gloo 也在与一些大型企业合作，这些企业与信仰组织一样，正在寻找技术来确保他们的聊天机器人等保持在正确轨道上。
Gloo AI Studio 仪表板（图片来源：Gloo）。
AI Studio
对于开发者而言，使用 Gloo Studio 与使用 Google AI Studio 或类似平台并没有太大不同。毕竟，Gloo AI Studio 的核心是一个多模型 AI 网关，其核心组件与您在其他 AI 初创公司或超大规模厂商那里找到的类似。
当然，不同之处在于 Gloo 在这些模型周围设置了它自己的防护措施（并允许其用户根据需要修改这些措施）。但是，在 Gloo 上调用这些模型与使用任何其他平台没有什么不同。
Gloo 面临的挑战是，在增加一致性约束系统的同时，将开销降到最低。Billings 说：“我们的工作是尽可能减少延迟，同时仍然提供诸如基础（grounding）和约束等功能，从而实现我们所测量的价值观一致性输出。”
该平台还支持模型路由，动态地为每个请求选择合适的模型，同时保持一致的策略控制。
当然，与 Gloo 合作的组织也希望将自己的数据引入这些模型。Gloo AI Studio 将检索增强生成（RAG）作为核心技术，例如，允许教堂上传教义文本，或大学上传课程和文章。Gloo 管理数据丰富、向量嵌入、基础（grounding）以及与外部内容源的实时同步。
Gloo AI Studio 上的模型选择（图片来源：Gloo）。
开发者可以通过 Gloo 的 API 管理所有这些，但也有 Studio 界面本身。开发者可以在那里管理他们的 API 密钥并找到入门模板。还有一个用于并排模型比较的实验场。该实验场允许开发者在教派视角（目前包括天主教、福音派和主流新教）之间切换，并查看相同的提示会如何提供不同的响应。
Gloo 开发者和 AI 研究副总裁 Nick Skytland 表示，该团队通常可以在新前沿模型发布后数小时内对其进行约束，导入自己的数据，并根据 Gloo 的人类繁荣基准对其进行评估。
Skytland 说：“我们与每一位开发者交谈时，他们都希望摄取自己的数据，将模型基于他们的数据，然后构建代理并使用基础设施进行部署。这简直就是我们与所有人交谈时提出的要求脚本。”
一致性作为基础设施
Gloo 的重点是将一致性引入基础设施。为此，该公司建立了一套“章程”，这是一套适用于所有 API 调用的原则。这套章程类似于 Anthropic 对其模型所做的那样，为安全性、准确性和合规性建立了基线。每个组织都可以在此之上添加自己的层，以使其输出符合其特定的价值观或教义。在此基础上，数据层可以添加另一个定制级别。
正如我们去年报道的那样，Gloo 开发了 FAI（繁荣 AI）基准，以评估前沿模型在人类繁荣标准而非通常的速度和成本指标上的表现。Gloo 声称，其价值观一致的模型变体在 FAI 得分上比开箱即用模型提高了 13% 至 22%。
Gloo AI Studio 一致性示例（图片来源：Gloo）。
开发者正在构建什么
正如 Billings 所指出的，经文被证明是 AI 准确性的一个有趣的测试案例。Billings 说：“如果你使用大型语言模型引用经文，并且你利用其概率特性，你实际上会成为那些幻觉的受害者。我们认为它应该是安全的，我们认为它应该是准确的，我们认为它应该是合规的。而在信仰领域，合规意味着与教义和神学保持一致——所以这是我们投入大量时间的领域。”
Billings 指出，例如，一个通过数据引擎基于特定圣经文本的灵修助手，产生幻觉的可能性要小得多。其他用例包括基督教大学的神学学习工具，以及信仰社区应用程序的内容审核。
但感兴趣的不仅仅是信仰组织。Billings 表示，美国最大的组织之一（他拒绝透露名称，但指出他们属于食品行业）正在与 Gloo 洽谈，其兴趣与宗教无关。
他说：“他们选择我们仅仅是因为我们真正秉持一种价值观一致、值得信赖的 AI 方法。”“人们为他们的特定食品产品付费，因此，他们实施和采用的技术仅仅是为了帮助他们完成使命。这是我们从所服务的组织那里经常听到的。”
“他们进入技术行业不是为了玩乐，甚至也不是为了创新。他们进入这个行业纯粹是为了推进他们的使命。他们采取了一种非常严谨的方法。”
Gloo 在超越其信仰根源方面存在机会，而且该团队似乎也充分意识到了这一点。AI 价值观在各个行业都很重要，该公司正在押注，一致性将成为标准的基石预期，而非一个小众问题。
