作者：来自 Elastic Eduard van Mierlo
世界正在转型，人工智能，尤其是 agentic AI，正在迅速嵌入私营和公共部门。
对于政府机构、执法部门以及关键任务组织来说，拥抱这一新现实具有独特的挑战。一方面，agentic AI 承诺带来可衡量的改进：现代化 IT 工作流程、更快的分析、改进的公民服务和运营效率。但监管约束、合规要求和数据安全问题通常会在 AI 采用上造成犹豫。
现在，agentic AI 可以帮助公共部门组织加速关键任务决策，而无需逐步人工指导。AI 代理提高了可视性和透明度，以保持一致的 AI 治理。
在本文中，我们总结了 “将责任重新融入 RAG 和 agentic AI” 网络研讨会中的关键要点。
预期与犹豫
问题是：AI 代理能否安全部署于公共部门？简短答案是可以 —— 但前提是责任和治理必须有意地融入其操作方式。
数据是 AI 的基础。但在公共部门，数据高度敏感，一旦泄露可能涉及国家安全。这使得数据安全成为采用的最大障碍。虽然这些顾虑可以理解地造成犹豫，但它们同时伴随着对 AI 潜力的日益期待。
如果负责任地部署，agentic AI 可以现代化传统 IT 工作流程、简化内部流程，并帮助组织更高效地运营。AI 代理能够自主工作，仅需最少的人类干预。
在公共部门，agentic AI 可以提升公民服务、加强透明度，并帮助缩小机构与公众之间的信任差距，同时改善提供这些服务的公务员的日常体验。
荷兰国防组织 —— 物资与 IT 指挥部（COMMIT）的 DATA 部门提供了一个有力的示例。它开发了一个内部、隔离的 LLM（大型语言模型），完全在封闭网络上运行。通过将系统与互联网隔离，它确保了敏感信息的安全。
结论：公共部门安全部署 agentic AI 是可能的。但这需要严格的研究、稳健的安全架构、清晰定义的成功指标以及具有说服力的商业案例来指导实施。
智能整合：投资 AI 的理由
对于许多企业来说，AI 采用可能显得复杂且资源密集，尤其是在没有清晰预期的情况下。同行压力、FOMO（害怕错过）以及 “因为专家说了算” 都不是投资 AI 的理由。可持续采用始于明确目标。
投资 agentic AI 的正确理由是具体的：
- 解决特定运营问题
- 改善公共服务
- 提升公务员的工作条件
例如，将 AI 驱动的搜索集成到面向公众的网站上，可以显著提升可访问性，让市民用自然语言查找信息，而不是在复杂的机构结构中摸索。这不仅改善了用户体验，还通过降低呼叫量和重复咨询，减轻了前线员工的压力。
在内部，AI 代理可以自动执行耗时的行政任务，让员工专注于更有影响力的工作。在一个长期面临人员短缺的行业中，提升工作质量直接影响招聘和留任。
完全自由 vs. 完全封锁：AI 工具访问的平衡
AI 已无法回避。生成式 AI（GenAI）工具对个人用户广泛可用，员工也已在日常工作中尝试使用它们。因此，公共部门组织无法简单选择放弃。
不受限制地访问公共 agentic AI 工具可能危及高度敏感的市民数据。如果缺乏适当监管，组织将面临隐私违规、合规失败和数据泄露的风险。
完全封锁往往会产生 “影子 AI 代理”。员工会转向未经批准的工具使用，没有监督 —— 这样反而增加了数据泄露风险，同时失去了可见性和治理能力。
解决方案在于根据组织的具体风险和容忍度，做出有意且战略性的决策，明确 AI 访问的范围。
以安全为设计核心的基础设施至关重要：
-
必要时使用隔离网络或本地部署的 LLM
-
受控的部署管道
-
明确的治理规定谁可以使用哪些工具以及如何使用
基于开放标准进一步增强长期韧性，防止供应商锁定，并使解决方案具备未来适应性。
请记住：未来适应性既是技术问题，也是组织问题。无法内部理解、管理或改进的技术，会让组织依赖外部供应商。
建立内部 AI 知识和专业能力中心，确保组织能够批判性地评估工具、负责任地实施并持续优化使用。通过投资用户教育和内部专业能力，可以减少对外部供应商的依赖，并创造长期韧性。
RAG 解决方案的好处
在公共部门部署 AI 代理依赖于几个关键挑战：数据安全、受控信息访问，以及对相关性和准确性的关键需求。这就是检索增强生成（retrieval augmented generation - RAG）的作用所在。
与 GenAI 模型的典型交互容易导致敏感数据泄露，并且由于模型依赖过时的互联网数据，常常会产生幻觉。通过对模型进行隔离网络部署并将知识库加入循环，你可以控制模型使用的数据来生成输出，实现访问整合并支持 AI 输出的可追踪性。
换句话说，RAG 让 agentic AI 的响应基于组织自身经过验证的知识库，使模型只能基于已批准的内部数据生成答案。
但实施 RAG 也带来了新的挑战：有效的 RAG 部署需要对数据的可访问性，而在大多数公共部门组织中，这些数据高度分散。结构化数据库、NoSQL 系统以及大量非结构化文档分散在整个生态系统中。
数据网格（data mesh）方法可以帮助连接这些分布式数据集，使其能够作为 AI 应用的统一知识层发挥作用。结果是安全、智能的搜索和助手能力 —— 它能够支持高级用例，例如 AI 驱动的搜索解决方案，甚至在受控的 RAG 环境中进行攻击发现，同时不影响数据主权。
Agentic AI 的最佳实践
在政府中实现 agentic AI 是可能的，但必须经过深思熟虑并保持专注。为了在公共部门启用 agentic AI，你需要构建一个工具生态系统，然后 LLM 决定为哪些答案使用哪些工具。这可能相当复杂。
智能整合需要你：
-
寻找能够与现有系统集成的解决方案。独立系统若无法整合，最终会带来更多问题。
-
在评估产品时考虑 AI 的成熟度。不要被炒作所迷惑。
-
逐步整合。小规模、具体的部署，并定期根据成功标准检查，确保保持控制。
-
保持人为干预。这关乎可观察性、可追踪性和责任制。
注册观看《在 RAG 与自主型 AI 中重拾责任》网络研讨会点播版，深入了解 AI 采用策略、最佳实践和使用案例。或者联系我们。
本博客文章中描述的任何功能或特性的发布与时间完全由 Elastic 自行决定。任何当前不可用的功能可能不会按时交付，甚至可能永远不会提供。
在本博客文章中，我们可能使用或引用了第三方生成式 AI 工具，这些工具由其各自所有者拥有和运营。Elastic 对第三方工具没有任何控制权，也不对其内容、操作或使用承担责任，对于你使用这些工具可能产生的任何损失或损害亦不负责。请在使用 AI 工具处理个人、敏感或机密信息时谨慎。你提交的任何数据可能被用于 AI 训练或其他用途。无法保证你提供的信息会被安全或保密地保存。使用前，你应熟悉任何生成式 AI 工具的隐私政策和使用条款。
Elastic、Elasticsearch 及相关标记为 Elasticsearch B.V. 在美国及其他国家的商标、标识或注册商标。所有其他公司和产品名称均为其各自所有者的商标、标识或注册商标。
