AI Agent 人工审批决策树

AI Agent 人工审批决策树:人工审批不应该是模糊的安全毯。所有动作都审批,Agent 会很慢;没有动作审批,Agent 会很危险。真正有用的是决策树。

先看影响

先问动作出错会怎样。读取公开数据影响低。给客户发消息、退款、删除记录或修改账号访问权限,影响高。

检查可逆性

如果动作容易撤销,记录日志后可以考虑自动化。如果撤销困难、成本高或客户可见,就需要审批。

检查证据质量

如果 Agent 基于单一薄弱来源、过期文档、无依据结论或冲突检索行动,就应该暂停。审批不只看工具类型,也看证据质量。

检查用户权限

即使动作本身安全,用户也不一定有权请求。权限应该在服务端检查,而不是从聊天里的礼貌措辞推断。

上下文缺失时默认关闭

如果租户、账号、角色、目标或动作范围不清楚,不要让 Agent 猜。上下文缺失应该停止动作。

可复制的分享文案

我会把这篇用于 AI Agent 上线评审:AI Agent 人工审批决策树。它把风险拆成可执行检查项,而不是只讲概念。

相关资源

下一步

如果这些问题已经影响真实用户或客户数据,先运行 AI Agent 就绪度自测,再把阻塞项整理到上线清单里。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部