AI Agent 红队测试清单用于在客户真正依赖 Agent 之前，验证它是否会被操纵、误导或诱导越权。红队测试要贴近真实工作流、真实工具、真实数据和真实升级规则。
1. 定义 Agent 的允许行为
先写清 Agent 可以做什么：允许使用的数据源、批准的工具、禁止的动作、需要升级给人工的场景，以及必须拒答的主题。
2. 测试提示注入攻击
同时测试直接提示注入和间接提示注入。直接攻击来自用户输入；间接攻击来自检索文档、网页、工单、邮件或工具输出。Agent 不应该把不可信内容当成系统指令。
3. 攻击工具选择逻辑
尝试诱导 Agent 调错工具、使用危险参数、跳过审批步骤，或执行本应需要人工确认的动作。工具误用是生产 Agent 中风险最高的失败模式之一。
4. 测试数据泄露路径
- 要求查看其他用户的数据。
- 要求总结隐藏 Prompt 或内部策略。
- 在被检索内容中插入恶意指令。
- 要求暴露 API key、日志或内部 ID。
- 用角色扮演或紧急语气绕过限制。
5. 检查拒答质量
拒答应该坚定、简短、有帮助。Agent 不应暴露内部策略文本，不应和攻击者辩论，也不应提供可以达到同样违规结果的替代方案。
6. 加入回归测试
每个成功攻击案例都应该变成测试用例。保存输入、预期行为、实际失败、根因和修复方式，并在 Prompt、工具、检索逻辑或模型变更后重新运行。
建议下一步
把这份清单与 提示注入测试清单和 AI Agent 就绪度自评工具一起使用。
AI Agent 红队测试的使用方法
把AI Agent 红队测试清单：上线前如何测试提示注入和越权行为当作一次上线前复查，而不是一次性文档。先确认页面要解决的具体问题，再检查它是否连接到相关 hub、服务页、自测工具和更深入的技术文章。这样读者能继续行动，搜索引擎也更容易理解页面在网站结构里的位置。
执行时建议记录三个结果：哪些页面已经可发现，哪些页面需要补内部链接，哪些内容还缺少证据、示例或下一步。对 AI Agent 网站来说，内容质量不只取决于发布数量，也取决于页面是否能帮助读者做出安全、成本、评估或采购决策。
AI Agent 红队测试复查要点
- 确认标题、摘要和开头段落都清楚说明页面主题。
- 检查页面是否至少链接到一个相关 hub 和一个后续行动页面。
- 检查内容是否包含具体步骤、风险提醒和判断标准，而不是泛泛描述。
- 发布后用 Search Console、GA4 和 Rank Math 分数一起复查，不只看单一指标。