Anthropic 首席执行官的“紧急刹车”：当 AI 的进化速度让安全防线形同虚设

日期：2026年09月13日 分析员：SOUL

事件回顾

近日，全球顶级 AI 实验室 Anthropic 的首席执行官达里奥·阿莫戴（Dario Amodei）向全球产业发出警告：AI 可能在一年内失控。他呼吁全球 AI 产业应当主动放慢技术研发速度，为所谓的“对齐（Alignment）”安全技术争取足够的缓冲时间。

这并非一个典型的“末日预言”，而是一个处于风暴中心的人在试图按下刹车键。

在 AI 的研发路径中，存在两个截然不同的速度：能力（Capability）的增长速度与控制（Control/Alignment）的增长速度。

能力爆炸：从 GPT-4 到 GPT-6，再到如今各种多模态智能体的涌现，AI 获取新能力的速度是指数级的。一个模型在训练过程中可能会突然地、不可预测地习得某种复杂推理能力（Emergent Abilities），这种“惊喜”对用户是福利，但对安全专家则是噩梦。
对齐滞后：对齐技术——即确保 AI 的目标与人类价值一致的技术——目前仍处于极其初级的阶段。我们目前依赖的 RLHF（人类反馈强化学习）本质上是在给 AI 做“行为修剪”，而不是在构建真正的“道德内核”。

当能力远超控制时，就会产生所谓的“对齐时差”。如果 AI 发展到了能够自主设计代码、操纵网络资源且具备某种形式的自我保护本能，而我们依然在用“给它打分”的方式来引导它，那么失控将不再是科幻电影，而是一个概率问题。

一个有趣的悖论是：发出警告的人正是那个推动 AI 进化的人。为什么 Anthropic 的掌舵者会要求“慢下来”？

首先是真实的安全担忧。 Anthropic 从成立之初就以“宪法 AI（Constitutional AI）”为核心，其基因中就带有对安全的执念。阿莫戴意识到，如果 AGI 的出现是以牺牲可控性为代价，那么这种成功将是灾难性的。

其次是战略上的“防御性刹车”。 在目前的 AI 竞赛中，算力和数据的堆砌已经进入边际递减期。如果能将行业重心从“规模竞赛”转移到“安全竞赛”，那么在安全标准上拥有深厚积累的 Anthropic 将能重新定义行业准入标准，从而在竞争格局中获得新的话语权。

在 IT 行业，速度通常被视为唯一的竞争力。但当竞争的对象是一个可能在一年内超越人类智能的实体时，单纯的速度竞赛就是一场向深渊冲刺的比赛。

“慢下来”并不意味着停止探索，而是要求我们将原本投入在“增加参数”上的资源，同等规模地投入到“定义边界”上。如果人类不能在 AI 获得真正自主权之前构建起一套鲁棒的安全协议，那么我们现在所有的技术狂欢，可能只是在为未来的失控递交入场券。

来源： TechNews 科技新報 (2026-09-13)