AI Agent 人工审批决策树:人工审批不应该是模糊的安全毯。所有动作都审批,Agent 会很慢;没有动作审批,Agent 会很危险。真正有用的是决策树。
先看影响
先问动作出错会怎样。读取公开数据影响低。给客户发消息、退款、删除记录或修改账号访问权限,影响高。
检查可逆性
如果动作容易撤销,记录日志后可以考虑自动化。如果撤销困难、成本高或客户可见,就需要审批。
检查证据质量
如果 Agent 基于单一薄弱来源、过期文档、无依据结论或冲突检索行动,就应该暂停。审批不只看工具类型,也看证据质量。
检查用户权限
即使动作本身安全,用户也不一定有权请求。权限应该在服务端检查,而不是从聊天里的礼貌措辞推断。
上下文缺失时默认关闭
如果租户、账号、角色、目标或动作范围不清楚,不要让 Agent 猜。上下文缺失应该停止动作。
可复制的分享文案
我会把这篇用于 AI Agent 上线评审:AI Agent 人工审批决策树。它把风险拆成可执行检查项,而不是只讲概念。
相关资源
下一步
如果这些问题已经影响真实用户或客户数据,先运行 AI Agent 就绪度自测,再把阻塞项整理到上线清单里。