AI Agent 的事故响应不同于普通可用性事故。系统可能没有宕机，但行为已经错了。演练能让团队在第一次真实事故前练习隔离、证据保全、客户沟通和回滚。
选择一个真实场景
使用当前产品里可能发生的场景：Agent 给客户发错消息、受 RAG 内容注入影响、超过成本阈值，或建议了不安全的操作变更。不要选和下一次上线无关的科幻式场景。
演练开始前分配角色
明确事故负责人、工程负责人、安全审查人、客服联系人、沟通负责人和最终决策人。如果演练时职责都不清楚，真实事故时只会更糟。
练习隔离动作
决定如何暂停工作流、禁用工具、降低权限、切换到人工审批，或回滚 prompt/model 变更。演练要证明这些控制真的存在。
保留证据链
收集 prompt、检索来源、工具调用、审批决定、日志、用户可见输出、模型版本和部署时间戳。证据缺失本身就是就绪度问题。
以跟进事项结束
把缺口写成任务：缺少 trace 字段、负责人不清楚、客户沟通文案弱、没有回滚开关，或缺少该失败的测试样例。没有后续动作的演练只是表演。
快速清单
- 扩大工具权限前先做演练。
- 使用真实工作流和接近真实的用户数据形态。
- 衡量隔离所需时间。
- 检查客服是否能清楚解释事故。
- 把演练缺口转成上线阻塞项或后续任务。
如何使用这份内容
把这篇文章当作工作评审辅助，而不是合规证书。准备把 AI Agent 推向生产环境的团队，应该把它和 trace、测试样例、策略决策以及每个未解决风险的负责人结合起来使用。
相关 IBBS 资源
可复制的分享文案
AI Agent 事故演练模板：一份桌面演练模板，用来练习当 AI Agent 执行或建议了错误动作时，团队该如何响应。 阅读链接：https://ibbs.ai/zh/2026/07/07/ai-agent-incident-drill-template-cn/
如果你的团队正在准备让 AI Agent 进入生产环境，可以先做 AI Agent 就绪度自评，或查看 样例审计报告。