AI 圈真是风水轮流转!
Jev 爆火之后,更多传统 NLP技术翻红了。
而且吧,还真有人愿意掏钱。
专门做任务型小模型的创业公司Fastino,此前拿下 1750 万美元种子轮融资,加上此前的 700 万美元 Pre-seed 轮,累计融资约 2450 万美元。
领投方 Khosla Ventures,还是 OpenAI 的早期投资方。
现在,ScaleDown 也来凑热闹了,刚刚全新的CDM 约束解码模型架构,一口气上线分类、实体提取、摘要三款模型。
NLP 老三样直接组团复出。

每百万输入 Token 只要 0.05 美元,输出免费,摘要生成也不另外收费。

小语言模型,正在部分任务上反过来赢大模型。

传统 NLP 回归 AI 舞台
过去几年,大模型几乎把整个 NLP 领域重新洗了一遍。
一度让人觉得,以前那些专门训练的 NLP 模型,似乎已经没什么存在的必要。
但现在突然有了点文艺复兴的意思。
今年 6 月,《福布斯》专门报道了专用小语言模型(Task-Specific Small Language Models,TSLM)的测试结果。
当时 ScaleDown 已经推出了面向分类、信息提取、摘要等任务的小模型,并拿它们与Claude、GPT、Gemini等主流大模型进行了比较。
在 ScaleDown 公布的三项基准测试中,其专用模型与测试中的 Claude 系列相比,平均准确率高出约 8%,调用成本约为对方的 1/161,响应速度达到约 3.8 倍。
换成 OpenAI 系列,平均准确率高出 8.72%,成本约为 1/89,速度约为 2.4 倍。
与 Gemini 系列相比,平均准确率高出 9%,成本约为 1/29,速度约为 8.3 倍。

尤其是成本。
在文本分类任务上,按照当时的测试结果,ScaleDown 专用模型的调用成本,相比测试中的 Anthropic 模型平均低约 5250 倍,相比 OpenAI 模型平均低约 1810 倍。
摘要生成方面,假设每天需要生成 1 万份摘要,ScaleDown 给出的成本估算是:
使用其专用模型,每天约 7.2 美元。
使用 GPT-4.1 Mini,则约 58 美元。
而在其报告的人类评价中,两者的摘要质量没有表现出明显差异。
就拿企业来说,客服工单、商品评论、金融公告、企业文档、会议记录、用户反馈……需要的只是几个实体标签,却得调用一个拥有复杂推理、代码生成、长文本理解等各种能力的通用模型。
模型还可能额外解释两句,或者返回不符合预期格式的结果。
有时候用户并不需要模型给出过多的解释,该识别的识别,该分类的分类,干完活儿就直接交结果就行。
ScaleDown 最近发布的 CDM,就是沿着这个方向又往前走了一步。
创始人 Neal Patel 在发布时,先抛出了一个问题:
你都已经把答案给大模型了,它为什么还要从头写一遍?
比如给模型一封客服邮件,让它判断属于退款、物流还是售后。
候选答案明明已经列出来了,通用大模型通常仍要经过逐 Token 生成的过程,才能输出最终结果。
ScaleDown 觉得,这中间有不少可以省掉的步骤。
于是,它推出了 CDM 约束解码模型架构。
CDM 针对特定任务设计,读取一次输入,跳过传统大模型逐 Token 生成答案的循环,直接返回任务需要的结果。
首批上线的三款模型。

开发者可以预先定义标签,模型根据输入内容,返回各标签对应的校准概率和判断理由。
比如给客服消息分类、识别用户意图,或者判断一条请求应该交给哪个 Agent 处理。

开发者用自然语言描述需要找出的信息,模型直接返回结构规范的 JSON,同时附带置信度和引用信息。
比如从新闻中提取公司、人名、日期,从合同中提取金额、签署方和关键条款,或者识别需要脱敏的个人信息。

这一款可以接收长文本、图像或 PDF,并返回不超过 1000 Token 的摘要。
可以用来压缩 Agent 上下文、生成文档元数据,或者整理会议和访谈记录。

但 ScaleDown 的思路,是把它们重新做成面向生产环境的专用模型服务。
企业需要什么结果,就调用对应的模型,不必每次都把一项明确的小任务,交给通用大模型完整处理。
价格也相当激进。
每百万输入 Token 收费 0.05 美元,输出免费……对,连摘要输出也免费。
与此同时,CDM 支持 100 万 Token 的文本与图像输入,已经接入了 OpenRouter、Vercel、LiteLLM、LangChain 等平台。
至于性能,除了最高 200 倍速度、467 倍成本优势,ScaleDown 这次还公布了与其他专用模型的直接比较。

Jev 也在走这条路,现在还能看图了
说起专用模型,Jev 也是这段时间绕不开的一个名字。
它来自 TypeSafe AI,主打结构化决策。
开发者提供上下文和候选答案,模型直接做出选择,并返回相应的概率信息。
这和传统 NLP 的思路其实有相通之处:
把问题限制在一个相对明确的范围里,再针对性地优化模型。
按照 ScaleDown 公布的数据,在 DecisionBench 上,CDM 取得了 77.2% 的成绩,Jev 则是 72%。
上下文方面,ScaleDown 宣称自己的 100 万 Token 输入窗口,是 Jev 的 31 倍。

Jev 1.14.0刚刚发布,这次连图片都能看了。
而且 TypeSafe AI 还顺手爆了个料:
其实Jev 1.13.0 就已经具备多模态能力,只是此前没有向用户开放。
好嘛,原来早就留了一手。

比如识别图片中的手势、判断画面里有没有某种商品,或者对不同的图片内容进行分类。
不需要先通过 OCR 把图片转换成文字,再交给模型处理。
而且图片还可以作为候选答案的示例。
以前开发者可能需要用文字描述 " 竖大拇指 "" 张开手掌 " 等类别。
现在可以直接提供几张示例图片,让 Jev 根据视觉信息完成判断。

不过,Jev 1.14 最有意思的新功能,还不只是看图。
它还增加了一种名叫 Box 的输出类型。
以前 Jev 擅长回答 " 是不是 "" 选哪个 ";现在,它还能回答:" 东西在哪儿?"
比如给它一张厨房照片,让它找到咖啡杯。
模型可以直接返回咖啡杯在图片中的矩形边界框坐标。

当然,TypeSafe AI 也提醒,图像、Box 和长上下文功能目前仍处于实验阶段,需要手动开启,尚未达到生产环境的可靠性要求。
从 Jev 到 ScaleDown,这些专用小模型的动作已经越来越密集了。
回到专用小模型这条路线,说白了,这一轮也谈不上旧技术打败新技术。
只是在大模型几乎包办一切的时代,大家又开始重新计算:
哪些任务真的需要这么强的模型?
文本分类、实体识别、摘要生成,这些需求一直都在,只是前几年,大模型的光芒太盛,把这类基础 NLP 任务的价值都给盖过去了。
如今 AI 应用逐渐走向规模化,成本、速度和输出稳定性又成了绕不开的问题。
行业终于意识到,杀鸡没必要用屠龙刀。
兜兜转转,文本分类、实体识别、文本摘要这些 NLP 老熟人,又重新回到了 AI 圈的聚光灯下。
这场传统 NLP 复活赛,算是赶上时候了。
参考链接:
[ 1 ] https://www.forbes.com/sites/joetoscano1/2026/06/25/small-language-models-outperform-frontier-ai-on-cost-speed-and-accuracy/
[ 2 ] https://x.com/neal_k_patel/status/2109978626124898587?s=46&t=iTysI4vQLQqCNJjSmBODPw
[ 3 ] https://x.com/EGafni/status/2110489489265312255?s=20
[ 4 ] https://typesafe.ai/blog/jev-1-14
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
点亮星标
科技前沿进展每日见