财联社 9 月 22 日讯(编辑 潇湘)估值达 156 亿美元的法律 AI 独角兽 Harvey,其业务核心原本是训练 OpenAI 的 GPT-4 等 AI 模型,为律师提供专业服务。然而,近期急剧膨胀的算力与调用成本,正迫使这家明星初创公司重新审视对 AI 巨头的深度依赖。
据知情人士透露,在 3 月对其 AI 智能体进行更新后,Harvey 的客户使用量激增,但毛利率却急剧下降——从年初的约 50% 跌至了 6 月的 -50%。
如今,面对成本失衡,Harvey 正选择加入越来越多软件企业的行列,倒向开放权重模型生态,其中便包括实力日益精进的中国开源模型方案。相较于美国 AI 巨头昂贵的闭源专有模型,这些开源架构不仅大幅降低了调用门槛,还赋予了 Harvey 等企业利用自身私有数据深度定制专属模型的自由度。
拥抱开源模型
据悉,红杉资本和 General Catalyst 等头部风投机构目前也在力挺这一技术转向。该路径不仅为企业卸下了沉重的成本包袱,更将核心技术控制权从 OpenAI 和 Anthropic 的手中夺了回来。而随着 OpenAI 与 Anthropic 紧锣密鼓地筹备各自备受瞩目的 IPO,初创企业的这股 " 去巨头化 " 浪潮,恐将分流这两大巨头可观的商业化营收。
今年 8 月,Harvey 已推出了首款自研模型,其底层由中国大模型开发商月之暗面的 Kimi K3 驱动。据介绍,该模型在性能上逼近 Anthropic 旗下的顶配方案,而综合成本仅为其一小部分。据接近该项目的内部人士称,得益于新模型的上线以及对整体 AI 调用架构的精细化重构,Harvey 的毛利率现已成功重回正值。
与此同时,医疗科技初创公司 Abridge 最近也宣布,正在基于英伟达的开源架构构建一款适用于临床环境的定制基础模型。AI 智能客服独角兽 Decagon 则透露,目前已有 80% 的咨询通过其自有模型处理。
在金融科技领域,Ramp 与 Rogo 等先锋企业也破天荒地试水自主训练模型;而在编程赛道,刚刚被 SpaceX 收入囊中的 Cursor,以及估值高达 480 亿美元的 Cognition,更是在早期便率先推出了定制化模型。
Ramp 联合首席执行官 Karim Atiyeh 表示,虽然此前模型构建对 Ramp 来说成本过高,但该公司在 6 月完成 7.5 亿美元融资后,正考虑开展相关工作,因为开放权重模型的性能已大幅提升。" 一年前这完全说不通。但现在开始变得很有道理了。"
面对持续走高的算力支出,正在筹备新一轮融资的 Atiyeh 直言," 如果一家公司到现在还不去思考算力成本、不着手做定向优化,那完全是在拿未来冒险。"
算力账单压垮初创企业
Harvey 总裁兼联合创始人 Gabe Pereyra 坦言,直到去年年底,AI 应用的性能主要取决于其底层模型。训练这些基础模型是一项极其昂贵的工程,通常由那些最大的 AI 实验室负责。相比之下,当时训练定制模型的努力意义不大,因此像 Harvey 这样的公司必须花大价钱购买最好的基础模型。
然而,飞涨的底层 API 调用开销正将这类应用层企业逼入墙角。
Harvey 表示,今年以来其平台的 Token 消耗量呈几何级暴涨 20 倍。团队高层深知,如果继续无休止地依赖 OpenAI 和 Anthropic 的高价模型,公司迟早会被成本拖垮。
事实上,尽管 Anthropic 与 OpenAI 今年也相继上线了走量版的平价模型,但两家公司目前都在基础订阅费之外,对企业的模型使用量额外收费。这一改动让那些推行 "Tokenmaxxing" ( 词元消耗最大化 ) 策略的企业猝不及防。例如,Uber 此前极力鼓励内部研发人员敞开使用 Anthropic 的 Claude Code,结果到 4 月份,全年的 AI 预算便已被提前耗尽。
" 如果不通过微调专属模型来优化单位成本,从本质上讲你的商业模式就算不上高效," 旧金山早期风投机构 Basis Set 创始人兼管理合伙人 Lan Xuezhao 断言。她补充道:" 如果公司不致力于构建供自身使用的模型,我认为它将难以获得融资。"
目前,Anthropic 和 OpenAI 也更加积极地进军初创企业领域。今年,两家公司都在大力招聘,发布插件,并在法律、金融和医疗保健等行业推出试点项目。
在 Anthropic 办公室最近举办的一次投资者论坛上,与会者讨论了自主构建模型的初创企业日益兴起这一现象。据一位知情人士透露,Anthropic 在一张关于如何 " 把握价值曲线 " 的幻灯片中提到了 Rogo 和医疗健康初创公司 OpenEvidence 等企业。该公司还提到了 Harvey 在人工智能领域的内部工作,并提醒道,这家初创公司仍需要依赖 Anthropic 最先进的模型之一—— Claude 的 Opus ——来处理最棘手的任务。
尽管如此,一些初创公司仍担心,如果这些 AI 巨头切断其访问权限,会发生什么情况。就在 SpaceX 完成对 Cursor 的收购仅一周后,OpenAI 便宣布暂停这家编程初创公司对其模型的访问权限,理由是马斯克旗下的公司过去曾多次违反 OpenAI 的服务条款。
相比之下,开放权重模型提供了一种替代方案。OpenAI 和 Anthropic 的封闭式模型将其内部参数严加保密,而开放权重模型则会公开这些参数,供外部开发者下载并进行修改,这一过程被称为 " 后训练 " ( Post-training ) 。
据两位知情人士透露,有些公司——如 Kimi K3 的开发商月之暗面,甚至会派出自己的工程师,帮助客户将现成的模型微调为定制化的内部模型。
无论如何,从昔日的 " 寄生巨头 " 到如今的 " 自立门户 ",Harvey 等硅谷初创们的集体倒戈不仅是初创企业应对算力成本危机的自救之举,更标志着生成式 AI 商业格局的深刻裂变。
随着开源生态与自研方案逐渐抹平顶尖模型的技术鸿沟,应用层企业正在重新掌握议价权与生存命脉。对即将迈入二级市场的 OpenAI 与 Anthropic 而言,如何在维持高昂研发支出的同时守住摇摇欲坠的商业客户壁垒,将成为其 IPO 前夕必须作答的一道关键命题。
(财联社 潇湘)