[Agent 学习笔记 - Agent 设计模式] 4 - 人机协作的设计原则

感谢活动组织：Datawhale - 《Agent设计模式》共学营

学习资料：www.datawhale.cn/activity/54…

一句话总结：随着 Agent 的能力越来越强，人类将从使用 Agent 工具转向“工具协同”，人类将更加侧重于抽象规则的制定。

第一原则：互补而非替代

人与 AI 是基于角色分工的协作关系，人类负责意图，工具负责执行。这在 LangGraph 等现代 Agent 框架中已有使用。

graph TD
Human:输入人类意图最小单元 --> Agent:生成执行计划
Agent:生成执行计划 --> Agent:WorkAgent执行任务
Agent:WorkAgent执行任务 --> Human:通过HITL机制进行价值判断

第二原则：透明与可解释

对于不同的角色，应当展现不同的信息，并给出相应角色关心的内容和理由。无论是内容的缺失还是错位，都会导致信息不通畅，相应的角色（人或 Agent）也会感到迷惑。

第三原则：人类保持主导权

必须要人类接入的场景：

• 高风险操作
• 低置信度
• 伦理敏感

理想情况下，Agent 的操作都应该具有可逆性；不可逆操作应当引入时间锁，为人类介入提供时间。

第四原则：共同学习和成长

AI 需要学习人类的隐形知识和习惯，从而达到更好的效果。

人类可以从 AI 的智能涌现中获得启发，跳出思维定式。