谁来决定AI何时过于危险？
“Who decides when AI is too dangerous?”
6244 字
预计 25 分钟
中文摘要
Anthropic(人类公司)发布Fable 5(寓言5)和Mythos 5(神话5)后，美国政府以国家安全为由，在90分钟内下达最后通牒，要求禁止外国国民访问这些模型。Anthropic被迫下线两款模型。事件起因是Amazon(亚马逊)研究人员发现潜在越狱漏洞，CEO Andy Jassy(安迪·贾西)直接致电财政部长Scott Bessent(斯科特·贝森特)，引发政府过度反应。讽刺的是，Anthropic一直呼吁AI监管，但政府的方式却混乱且缺乏专业性：没有给公司充分沟通时间，直接使用出口管制这一最粗暴工具。更关键的是，该漏洞并非Fable独有，OpenAI(开放AI)的GPT-5.5也能实现类似能力，但政府只针对Anthropic，因为其CEO Dario Amodei(达里奥·阿莫代)与特朗普政府关系紧张，不善于“跪舔”。事件导致整个行业开始将政治风险纳入商业计划，非美国公司正在签署备份合同，部署替代硬件，这对美国AI领导地位构成反噬。
核心论点
- 美国政府AI监管缺乏专业性和可预测性，90分钟最后通牒和出口管制是过度反应。
- Anthropic因与特朗普政府关系紧张（CEO不善于政治周旋）而成为靶子，同样漏洞在其他模型上未被追究。
- 事件暴露了美国AI监管的混乱：政府既想推动AI出口又突然扼杀自家公司，政策摇摆不定。
- 行业开始将政治风险纳入考量，非美国公司正在寻求替代方案，损害美国AI竞争力。
- Anthropic自身“过度宣传”模型危险性，最终反噬自己，为政府提供了借口。
反方视角 / 盲点
- 文章未深入讨论中国AI公司（如深度求索、百度）如何利用这一机会加速自主研发和替代方案。
- 未分析独立开发者和小型AI公司在此类监管风暴中的脆弱性，他们缺乏大公司的游说资源。
对科技从业者的启示
- 对独立开发者而言，AI监管的不确定性意味着依赖美国大模型API（如Claude）的产品存在政治风险，应考虑多模型备份或本地部署方案
- 出海SaaS产品需关注目标市场的AI法规，避免因模型被禁而影响服务连续性
- 事件表明“政治关系”在科技行业的重要性，独立开发者虽无法参与高层周旋，但可通过技术中立、开源合规来降低风险