给创始人的 AI Agent 就绪度 FAQ:不够。Demo 只能证明 happy path。就绪意味着团队已经测试过失败、权限、成本、延迟、回滚、升级,以及用户提出高风险请求时会发生什么。
Contents
hide
能跑通 demo 就够了吗?
不够。Demo 只能证明 happy path。就绪意味着团队已经测试过失败、权限、成本、延迟、回滚、升级,以及用户提出高风险请求时会发生什么。
应该先测试什么?
先测试可能伤害客户的流程:账号变更、退款、数据查询、发邮件、工具动作,或用户可能直接采纳的建议。低风险 FAQ 可以后测。
一定需要人工审批吗?
如果 Agent 能修改数据、花钱、联系客户或暴露隐私信息,就需要。人工审批不一定永久存在,但在流程稳定前应该存在。
什么时候需要外部审查?
公开上线前、加入强权限工具前、出现严重失败后,或团队说不清 Agent 权限边界时,都适合做外部审查。
什么叫“准备好了”?
准备好了不是完美,而是团队知道主要风险,已经测试过,能看到 Agent 做了什么,并且能快速停止或逆转坏行为。
下一步
可以把这篇文章和 AI Agent 就绪度审计 和 AI Agent 审计报告示例 一起使用。如果你正在准备真实上线,也建议运行 AI Agent 就绪度自测。