Harvey 等创业公司转向开源权重模型，以摆脱对 Anthropic、OpenAI 的依赖
“Startups Like Harvey Embrace Open Models to Cut Reliance on Anthropic, OpenAI”
1460 字
预计 6 分钟
中文摘要
Harvey是一家估值156亿美元的法律AI公司，早期围绕OpenAI的GPT-4等模型训练专用能力。今年3月其AI agent更新后客户用量激增，但毛利率从年初约50%跌到6月的 -50%。Harvey随后转向开源权重模型，8月发布基于中国Moonshot AI的Kimi K3的自有模型，性能接近Anthropic最强产品而成本低得多，加上其他用量优化，毛利率已回正。同类动作正在扩散：Abridge基于Nvidia开源模型构建临床基础模型，Decagon称80%查询走自有模型，Ramp、Rogo首次探索自训模型，Cursor和Cognition更早推出定制模型。Ramp联合CEO Karim Atiyeh表示，一年前自建模型『完全说不通』，现在『开始说得通』。驱动力是成本：Harvey今年token用量增长20倍；Anthropic和OpenAI在订阅费之外对企业按用量收费，Uber在4月就烧完了全年AI预算。反方观点来自Menlo Ventures的Matt Kraning，他认为自建模型对多数公司是『cosplay』，需要稀缺人才、高昂前期成本和专有数据。风险还包括美国立法者对开源权重模型的限制讨论、对中国模型蒸馏的指控，以及OpenAI在SpaceX收购Cursor一周后暂停其模型访问所暴露的断供风险。
核心论点
- Harvey的毛利率从年初约50%跌至6月的 -50%，转向开源权重模型后回正。
- Harvey今年token用量增长20倍，闭源模型按量计费使这种增长不可持续。
- Abridge、Decagon、Ramp、Rogo、Cursor、Cognition等公司正在自建或后训练专属模型。
- Menlo Ventures的Matt Kraning认为多数公司自建模型是营销行为而非真实需求。
- OpenAI暂停Cursor模型访问，暴露了应用层公司对模型供应商的断供风险。
反方视角 / 盲点
- 文章未量化自建模型的总拥有成本，包括推理基础设施、人才薪酬与数据采购，难以判断净收益。
- 未讨论开源权重模型在能力上限上的差距，以及当闭源模型再次拉开代际差距时这一策略是否可持续。
- 对Anthropic和OpenAI的回应只有一句『仍需要Claude Opus处理最难任务』，缺少两家公司对应用层自建趋势的正式立场。
对科技从业者的启示
- 如果你在做AI应用或SaaS，需要把『模型成本随用量线性增长』当作核心商业风险来建模，毛利率可能在用量爆发时迅速转负。
- 应用层公司的护城河正在从『调用最强模型』转向『用自有数据后训练出专属模型』，产品团队应尽早评估哪些环节值得自建、哪些继续外采。
- 平台依赖是真实风险：OpenAI暂停Cursor访问说明模型供应商可以单方面切断关键能力，采购策略需要准备开源权重模型的备选路径。