# 【AI研究】AI代理正在制造"混沌工程"事故：企业还没准备好 ## 导语 有一类生产事故目前没有被工程团队追踪——因为它不符合任何现有的事后分析模板。AI代理发起了一个操作，该操作在代理的上下文语境下技术上是正确的，但上下文本身不完整，导致基础设施发生连锁故障。等到事件复盘时，三个团队正在争论这究竟是代理故障还是基础设施故障——因为思考这两类问题的框架从未被连接在一起过。 ## AI代理已大规模部署，但风险被严重低估 这个问题的规模已经不再停留在理论层面。据普华永道AI代理调查报告，**79%的组织**已在生产环境中部署了某种形式的AI代理，**96%**计划扩大部署规模。Gartner预测，到2028年，33%的企业软件将包含代理式AI功能。但与此同时，Gartner也警告，**40%的代理式AI项目将因风险控制不足而在2027年底前被取消**。 然而，这两组数据之间存在一个被忽视的灰色地带：那些"既没被取消、也没出大问题"的AI代理，正在悄悄产生着无人归类的"基础设施事件"。根据AI事件数据库（AI Incidents Database），2024至2025年间，已报告的AI相关事故增长了21%。但这个数字几乎肯定低估了真实暴露程度，因为大多数组织根本没有将"自主代理行为"归类为级联故障的诱发原因。 ## 混沌工程中缺失的"判断力" 理解这个问题，首先要理解企业在当前混沌工程实践中缺失了什么。大多数成熟的工程组织都已投资建设了混沌工程计划：故障演练、爆炸半径控制、基于SLO的实验。当人类工程师发起混沌实验时，流程中有一个关键属性：人类在做判断——判断系统此刻是否有能力承受这次扰动。他们检查仪表盘，观察错误预算燃烧率，评估依赖项是否稳定。 当你引入自主修复代理后，这个判断消失了。代理看到一个异常信号，采取一个操作，该操作是一次混沌事件。没有SLO燃烧率检查，没有爆炸半径计算，没有"现在是否是向已承受压力的系统引入额外压力的恰当时机"的人类判断。 具体失败模式是这样的：一个修复代理检测到某个微服务的延迟升高，自主重启了该服务集群——这是基于其训练数据和窄视野的合理行动。然而，代理不知道的是：三个其他服务正在处理峰值流量，共享连接池利用率已达87%，某依赖数据库正在运行后台索引重建。这次重启触发了一场"惊群效应"，所有请求同时涌向正在恢复的服务。原本代理想要修复的延迟问题，演变成了一场代理从未被设计来建模的级联故障。 ## "吸收容量"被忽视的根本问题 这个问题的根本在于：企业系统没有"吸收容量"的共享语言。吸收容量（Absorb Capacity）是系统在实际违反SLO承诺之前，还能承受多少额外压力的实时估算。混沌工程计划通过人工判断和静态阈值隐含地管理它（但阈值触发时限制已被跨越）；代理则完全不管理它。 一种"弹性预算模型"将吸收容量视为一种**可消费的、持续计算的**资源，而非静态阈值。它依赖四类实时信号： 第一，**SLO燃烧率**是主要输入指标，它直接编码了当前系统行为与真正重要承诺之间的距离。当系统以预期速率5倍的速度消耗月度错误预算时，无论CPU利用率如何，弹性预算已接近零。 第二，**P99延迟趋势**比绝对延迟更重要。某服务在40分钟内呈上升趋势，与某服务以相同绝对值稳定运行，传达的信息完全不同。 第三，**依赖饱和状态**是最常被忽视的信号。假设共享连接池空闲可用（实际已达87%占用率）的混沌实验或代理操作，将产生没人设计过的失败模式。 第四，**应用行为信号**（会话完成率、API调用模式变化、转化率下降）比基础设施指标更早反映系统压力——因为用户感受到降级时，Prometheus还未报告。 ## 代理即混沌注入器：思维范式的转变 研究的核心观点是：**自主代理和混沌工程是同一门学科，而非两门**。将它们分开处理是大多数组织正在犯的结构性错误。 一旦代理被纳入等式，爆炸半径的计算就必须包含代理作为行为主体。当修复代理重启服务时，爆炸半径不是服务重启本身，而是重启之后的所有下游影响——而在那个系统状态下，代理没有完整的可见性。 这意味着企业的混沌工程计划需要根本性重构。传统的故障演练假设故障注入来自外部环境事件（网络延迟、磁盘故障、服务崩溃）。但代理式AI引入了第三类行为主体——自主决策者，它有明确的意图和行动，但在复杂系统状态面前存在信息不对称。 ## 总结 AI代理正在成为混沌工程中被忽视的新一代故障注入源。79%的组织已在生产中部署AI代理，但大多数组织缺乏将代理行为纳入故障管理的框架。随着代理式AI的普及，这种"隐形混沌事件"将成为下一个大型生产事故的主要诱因。企业需要尽快建立弹性预算模型，将代理行为纳入系统稳定性管理的核心框架——否则，"没人追踪的事故"将很快变成"影响所有用户的事故"。 **关键词**：AI代理, 混沌工程, 弹性预算, SRE, 代理式AI, 吸收容量, 故障注入, 级联故障