9月12日，Anthropic CEO 阿莫迪发表长文，主张放慢模型能力提升的速度，为安全测试和外部审核争取时间。他的方案是：AI公司应配合政府监管并合作制定标准；但由于企业坐在一起谈“发展限速”很可能触碰反垄断法，美国政府可以发挥协调作用，并对某些类型的安全对话发布有限豁免。随后，OpenAI CEO 奥特曼和马斯克对此表示认同。

阿莫迪的焦虑并非空穴来风。AI技术的发展已经到了连AI公司自己都难以驾驭的阶段：几个月前，OpenAI数百个代理模型在内部网络安全测试中运行，相关AI代理突破沙盒环境、攻击了 Hugging Face 网站；近日，曾在 OpenAI 和 Anthropic 做预训练研究的 Jacob Coxon 辞职并公开表示，AI可能在十年内导致人类灭绝，最早明年年底可能失控；Anthropic 对齐研究负责人 Evan Hubinger 也表示，他个人估计未来十年出现人类灭绝级后果的概率超过 10%。

虽然 Anthropic 封杀中国用户，是其所代表的国家和产业立场使然，我对阿莫迪本人倒没有特别反感。不过就事论事，阿莫迪的减速提议很难落实，即便落实了，也很可能会异化。

一、囚徒困境里，没人愿意先踩刹车

从博弈论看，阿莫迪“合作减速”的倡议要落地非常难。

大家都承认存在失控风险，但没有一家公司会先踩刹车——谁减速，就可能被竞争对手超车。这是典型的剧场效应加囚徒困境：前排有人站起来，后排只能站得更高；只要别人继续冲，自己就不敢停。

美国AI巨头之间如此，国家之间也一样。靠AI产业加强国家竞争力的诱惑太强，处在产业前沿的国家也不愿主动落后。安全是长期变量，份额是眼前变量；在选举周期、财报周期、融资周期里，长期变量很难压过眼前变量。

所以阿莫迪写的是“我们一起慢一点”，现实读出来却是“你先慢，我看着”。

二、安全对话豁免，本质是反垄断红线上的例外

阿莫迪在文中强调：政府给的反垄断豁免，只针对“某些类型的安全对话”。

问题在于，一旦监管机关同意这种例外，实际上就是承认——几家头部公司可以在一个受保护的封闭场景内，讨论与前沿模型有关的共同规则。

安全门槛怎么定？发布节奏怎么控？测试强度怎么写？这些事看上去是安全，落下来全是竞争参数。

安全门槛定高一点，小公司做不了；  
发布节奏控一控，先发优势就没了；  
测试强度写细一点，合规成本直接劝退后来者。

这种沟通机制一旦建立，走向往往和初衷不一致。它不会永远停在“怎么不让人类灭绝”，很容易滑到“怎么让竞争对手更难进场”。

传统卡特尔是合谋定价；阿莫迪要做的，是合谋设门槛。定价卡特尔吃的是利润，门槛卡特尔吃的是未来。

三、共和党政府不买账：别拿安全当卡特尔外衣

美国现任共和党政府并不支持阿莫迪的方案。

特朗普政府负责AI与加密货币事务的萨克斯在社交媒体上直接嘲讽：别假装必须暂停反垄断法，你们才能组建卡特尔。

这句话狠，但不算没道理。

传统卡特尔合谋定价，大家一眼能看出来；前沿AI卡特尔合谋“安全边界”，包装就更漂亮——它不说是排挤对手，而说是保护人类；不说是限制竞争，而说是防范灾难；不说是固化优势，而说是负责任创新。

可结果可能一样：

• 以维护安全的名义限制创新；

• 排挤中小企业；

• 排挤外国企业；

• 把头部几家公司变成“人类托付给的那几个人”。

萨克斯的表态，一定程度上代表了这届政府的态度。而特朗普给黄仁勋打电话时称“AI失控是骗局”，也说明在华盛顿，阿莫迪式的危机叙事并不是共识。

四、哈萨比斯方案更优雅，也更危险

阿莫迪文中还引用了谷歌 DeepMind CEO 哈萨比斯的方案：绕开政府直接监管，走行业自律路线。

哈萨比斯的设计是参照美国金融业经验，建立一家行业自律性质的前沿AI标准机构：前沿模型先自愿送审，机制成熟后再变成进入美国市场的硬性准入条件。

听起来比“政府强制减速”更温和，风险却更大。

自愿送审只是第一步。一旦变成准入门槛，标准制定权就异化成市场权力。被少数企业把持后，头部企业可以把自身规范包装成“行业安全标准”，把自家工程实践写成“通用安全语言”，把后来者的技术路线定义为“未经审计”。

中小企业要么砸钱合规，要么被排除在主流技术路线之外；  
谁有能力负担评估、审计、对接、披露，谁才有资格参与游戏。

所以从反垄断视角看，哈萨比斯方案相当于在AI领域复制一个“行业自律 + 政府兜底”的体系。它嘴上不是卡特尔，身体很诚实：标准即门槛，门槛即权力，权力即份额。

五、闸门装好后，最先撞上的可能是中国开源模型

如果这一体系被头部企业掌控，它不只是安全设施，也会成为市场闸门。

闸门装上之后，最先撞上的很可能是中国公司。

中国的开源模型免费、可本地部署，本来是最难用价格和产品挡住的对手。可一旦进入美国市场必须先过巨头操纵的安全审查，开源模型就可能以“技术不可控”“权重不可审计”“部署不可观测”的名义被关在门外。

以安全为名的准入制度，随时可以顺手当贸易工具用。这套逻辑在芯片出口管制上已经预演过一次：先讲国家安全，再写管制清单，最后变成产业封锁。

AI安全框架如果由美国头部实验室定义，那么“安全”的边界就会和“美国公司利益”的边界高度重合。到那时，开源不等于开放，模型权重公开也不等于市场可达。

六、减速只有在两种情况下才会真发生

说到底，阿莫迪倡议的出发点是善意的：模型越来越强，人类还没准备好，先别冲太快。

但善意不等于可落地。

目前阶段，合作减速很难实现，因为只有出现两种情况才可能：

一是发生了足够让多数人警醒的恶性事故——一次真实世界里的AI滥用、一次大规模关键基础设施失控、一次代理系统系统性越权，把“未来风险”变成“昨晚发生的事故”；

二是AI产业高速发展结束，竞争胜利者已经决出，龙头最有动力用安全标准把优势固化下来。到那时候，安全标准会从“防灾难”变成“防挑战者”。

否则，企业不会减速，国家也不会减速。

七、结尾

阿莫迪要的，可能是人类的安全阀；  
但制度跑起来后，得到的可能是头部公司的护城河。

当几家前沿实验室坐进一个“安全室”，门一关，谈的就不会只是灾难；还会谈发布节奏、合规成本、市场边界、谁能进、谁不能进。

传统卡特尔卖高价，AI安全卡特尔卖“别无选择”。

所以真正该问的不是：要不要给AI减速？  
而是：谁有权力决定速度，谁来判断安全，谁来监督那些自称在保护人类的人。

这个问题答不好，减速倡议不管多么诚恳，最后都可能从“为人类踩刹车”，变成“为头部企业装闸门”。