导语:Liquid AI 于 10 月 27 日宣布 LFM3 ——新一代开放权重 Liquid Foundation Models,将文本、视觉、音频、全模态与决策模型统一到同一共享骨干之上。
摘要
MIT 孵化的 Liquid AI 发布 LFM3 模型家族,一次性放出六个约 20 亿参数(基于 LFM3-1.7B-Base)的开放权重模型,覆盖文本、视觉、音频、全模态与两类 " 决策 " 模型,全部可在单张 GPU 微调、在手机 / 笔记本 / 边缘设备本地运行。文本模型 LFM3-1.7B 拥有 256K 上下文、4-bit 量化下约 1GB 显存。LFM3 采用三混合(tri-hybrid)架构,在 22 万亿 token 上预训练。需注意:其采用 "LFM Open License v1.0" ——虽开放权重,但商用仅限年营收低于 1000 万美元的组织(非营利研究用途不受限),对大型企业属 " 源代码可得(source-available)" 而非标准开源,转载新闻无误、但使用者需留意模型许可门槛。
正文(译文)
Liquid AI 于 10 月 27 日宣布 LFM3 ——新一代开放权重 Liquid Foundation Models,将文本、视觉、音频、全模态与决策模型统一到同一共享骨干之上。首个发布涵盖 2B 参数区间的六个模型,均源自同一个 LFM3-1.7B-Base:
Liquid AI 表示,基础与后训练权重已在 Hugging Face 开放,并可通过 Liquid AI Playground 与 API 使用;所有模型均可在单张 GPU 上微调。LFM3-1.7B 拥有 17.3 亿参数、256K 上下文、12.8 万词表、支持 16 种语言,采用 LFM Open License v1.0。架构上,骨干为横跨 24 层的 " 三混合 " 结构:13 个门控短卷积、5 个 256-token 滑动窗口注意力层与 6 个全局注意力层;并引入逐头门控注意力、部分 RoPE 与三明治归一化。LFM3-1.7B 在 22 万亿 token 上预训练,末段 3.5 万亿 token 为中训练阶段,将上下文扩至 256K;4-bit 精度下文本模型约占用 1GB 显存。
Liquid AI 称,LFM3-1.7B 以少 35% 的参数超越前代 LFM2.5-2.6B,在 WebArena-Verified(网页智能体基准)上取得 38.42 分(前代为 3.02);LFM3-VL-2B 在 62 个视觉基准上的均值由 57.6 提升至 71.4,与规模超其六倍的 Gemma 4 12B 持平。发布伙伴包括 AMD、Arm、Intel、NVIDIA、Qualcomm、Ambarella、OpenRouter、Vercel,梅赛德斯 - 奔驰与 Shopify 参与了发布前测试。
(文章为作者独立观点,不代表艾瑞网立场)