大厂 AI 减速是安全共识还是卡特尔？
“Is Big Tech’s AI slowdown a safety pact or a cartel?”
OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind联合创始人Demis Hassabis与Elon Musk在上周末就'放缓AI开发'达成口头共识，提出'pace the frontier'(为前沿设定节奏)的三步方案：引入第三方审计、监管本土实验室、达成全球减速协议。批评者立刻指出这是卡特尔行为——阻止潜在竞争者、压制开源、规避真正的法律约束。文章的核心判断是：真相更复杂。Amodei的essay确实呼应了AI安全倡导者多年的诉求，而在Trump政府下实质性监管本就不太可能落地，因此这份自愿承诺可能成为监管的替代品。多位安全研究者给出正面但谨慎的评价：Apollo Research CEO Marius Hobbhahn称“如果真的发生，是长期以来对安全最好的事情之一”;Redwood Research CEO Buck Shlegeris表示“谨慎乐观”。但ex-OpenAI员工、AI Futures Project负责人Daniel Kokotajlo警告，担心的是“引入外部审计、做一堆安全文书，最终根本不会真正减速”。NYU兼职教授、前DHS新兴技术政策主管Nick Reese把这一套路比作十年前社交媒体平台抢先呼吁监管的剧本。触发这轮恐慌的是Anthropic研究员Jacob Coxon的公开辞职信，他在X上获得超过1.7亿次浏览，信中称'构建AI的人真心相信它可能在本十年末杀死我们所有人'。Anthropic研究员Evan Hubinger公开表示未来十年人类灭绝概率超过10%。底层技术焦虑指向RSI(recursive self-improvement，递归自我改进)：模型无需人类介入即可训练、迭代、创造新版本。Anthropic称该节点最早可能在2027年初到来，OpenAI首席科学家本月也撰文称公司正投入大量资源追求这一目标。最大障碍是中国。AI领袖与政客长期以中国不会踩刹车为由反对美国减速，Trump本周在Truth Social称AI唯一需要的护栏是“一个强大且聪明的总统”，并在Nvidia CEO黄仁勋台上演讲时打电话称AI担忧是'hoax'。中国外交部发言人郭嘉昆则回击称这是“散布恐慌”。Kokotajlo用一幅漫画作结：车里的人冲下悬崖，气泡里写着“万岁，我们领先中国了”。
安全洗白的核心担忧
There's a serious concern that they're not actually going to slow down
RSI 的定义
RSI refers to a potential industry milestone at which point AI models can train, advance, and create new versions of themselves — all without human involvement.
以上为 The Verge 原文片段 · 阅读原文 →
- Altman、Amodei、Hassabis、Musk口头同意“为前沿设定节奏”，方案包含第三方审计、本土实验室监管与全球减速协议。
- 批评者认为该承诺实质是卡特尔行为，意在阻止竞争者、压制开源并规避真正的法律约束。
- 多位安全研究者认可方向正确，但一致认为口头承诺距离可执行、可验证的硬约束还很远。
- Anthropic研究员Jacob Coxon的辞职信获超1.7亿次浏览，把行业内部对RSI的恐惧推向公众。
- 中国不配合被反复用作反对美国减速的理由，而安全倡导者认为这是行业逃避监管的惯用借口。
- 文章未给出任何AI实验室对“卡特尔”指控的正面回应或官方声明，只有安全研究者的第三方评论。
- 未讨论减速承诺对下游应用层、开源模型与中小AI公司的具体商业影响，读者难以判断生态后果。
- RSI时间表(2027年初)仅引用Anthropic单方说法，缺少独立技术验证或反方评估。
- 如果“自愿安全框架”成为监管替代品，做AI产品与基础设施的团队需要预判审计接口、算力申报、模型发布前审查等合规成本会以何种形式落到自己身上。
- 大厂以安全之名设定节奏，可能同时抬高开源与中小实验室的追赶门槛，评估竞争格局时要把“安全叙事”当作一种市场策略变量。
- RSI时间表被指向2027年，意味着未来12-24个月的模型能力跃迁与随之而来的平台政策、企业采购标准变化，值得提前纳入产品路线图的风险假设。