Anthropic 称伊朗、俄罗斯用 Claude 做武器研究
“Anthropic Says Iran, Russia Used Claude for Weapons Research”
938 字
预计 4 分钟
中文摘要
Anthropic威胁情报团队发布154页报告，称过去一年中来自伊朗、俄罗斯、中国、也门等国的用户试图滥用Claude开发军事应用，包括自杀式无人机蜂群、导弹导航系统和潜在生物武器研究。报告强调这些案例均未涉及Anthropic最先进的Fable和Mythos模型。俄罗斯非国家关联用户试图用Claude构建基于乌克兰战场画面训练的自杀式FPV无人机蜂群软件；也门胡塞武装控制区人员用Claude开发多型导弹软件，并试射了一枚制导火箭，失败后数小时内又回到Claude排查原因。报告还列出5起可能支持生物武器开发的案例，包括某国国家资助的病毒学家试图增强基孔肯雅病毒。中国和伊朗的国家关联行为体被指用Claude构建监控系统，其中一起中国关联行动用于在叙利亚军队中追踪、画像和招募维吾尔人；马里一名疑似情报机构顾问用Claude搭建了可监控约2500万部手机、无需法院令即可生成情报档案的系统，Anthropic封禁账号但平台已在当地部署。报告还涉及Midnight Blizzard和ShinyHunters等黑客组织用AI加速恶意软件开发与钓鱼攻击。Anthropic与五角大楼因拒绝将Claude用于大规模监控或自主武器系统而中止合作。
核心论点
- Anthropic报告称伊朗、俄罗斯、中国、也门等国用户滥用Claude开发军事与监控应用。
- 也门胡塞武装用Claude开发导弹软件并试射制导火箭，失败后返回Claude排查原因。
- 马里一名疑似情报顾问用Claude搭建可监控约2500万部手机、无需法院令的情报档案系统。
- 中国关联行动被指用Claude在叙利亚军队中追踪、画像和招募维吾尔人。
- Anthropic因拒绝将Claude用于大规模监控或自主武器系统而与五角大楼中止合作。
反方视角 / 盲点
- 报告未披露这些滥用案例中Claude实际提供的帮助程度，也未说明有多少尝试被现有防护机制拦截。
- Anthropic自身既是模型提供方又是威胁判定方，报告缺乏独立第三方验证，存在利益与叙事立场。
- 文章未讨论美国AI公司向军方和情报机构提供模型服务的双重标准问题。
对科技从业者的启示
- 做AI产品与平台治理的团队需要把「滥用检测与威胁情报」当作前沿模型发布的标配能力，而非合规附属品，Anthropic的案例库可作为风险分类参考。
- 面向海外市场或涉及敏感行业的AI应用，需提前评估模型被用于监控、军事或生物研究的合规与声誉风险，尤其是账号封禁后平台仍脱离控制的情形。
- 对投资人和管理者而言，Anthropic与五角大楼中止合作说明「安全立场」正在成为AI公司商业边界的真实变量，会影响政府订单、国防合作与估值叙事。