关于ZAKER Skills 合作
科创板日报 4小时前

苹果很感兴趣!美初创公司将阿里 270 亿参数量模型压进 iPhone

财联社 7 月 10 日讯(编辑 史正丞)对于坚持 " 端侧 AI" 路线的苹果而言,一家初创公司的最新成就,或许即将解锁 iPhone"AI 智能 " 的天花板。

最新报道显示,美国初创公司 PrismML 表示,已经成功压缩阿里巴巴开源大语言模型 Qwen 3.6 的 270 亿参数量版本,使其能够在 iPhone 17 Pro 上运行。公司透露,他们为 iPhone 开发的 " 压缩模型 " 能够完成复杂对话、推理、完全自主的智能任务以及软件编程等功能。该开源模型将于下周二开始提供下载。

参数量通常用来衡量模型处理问题的能力。一般而言,目前大多数手机和笔记本电脑只能运行数十亿参数量的模型。除了处理器算力不足外,移动设备的显存容量也是难以逾越的障碍。

PrismML 是加州理工学院分拆出来的初创公司,该校电气工程教授哈西比与创业团队完成了实现 " 大模型压缩 " 所需的数学研究。加州理工学院拥有相关技术的专利,并独家授权给哈西比创办的 PrismML。

据悉,PrismML 已经将千问 3.6 大模型的体积从 54GB 压缩至不到 4GB。通常情况下,模型体积缩小会导致性能下降,但该公司声称其用于压缩模型大小的技术并不会影响性能

这种 " 在本地设备上跑 AI" 的逻辑,正是苹果公司近年来的核心 AI 战略。消费电子巨头在耗资巨大的数据中心建设竞争中基本处于冷眼旁观的状态,同时一直倡导让尽可能多的 AI 功能在设备本地运行。

问题在于,苹果自己的开发成果一直拿不上台面。在今年 6 月的开发者大会上,苹果公布了基于谷歌 Gemini 模型的 Siri 升级。但其中最复杂的功能依然体积庞大,苹果仍需要依赖运行在谷歌云上的英伟达芯片提供算力支持。此前也有报道称,苹果曾尝试过把模型压缩到能装进 iPhone 的程度,但发现模型能力出现严重下滑。

横向对比,苹果新推出的某款本地 AI 模型虽然声称拥有 200 亿个参数,但采用的是稀疏架构,即一次仅有 10 亿至 40 亿个参数处于活跃状态。而PrismML 声称其开发的本地模型能让全部 270 亿个参数同时处于活跃状态

据报道,熟悉相关谈判情况的人士透露,苹果公司已经与 PrismML 就如何运用其技术进行了沟通

PrismML 的首席执行官哈西比对媒体表示,他预测未来绝大多数人工智能处理流程,最终将由本地设备来完成。而把模型缩小到可在本地设备上运行的规模,从根本上改变了人工智能的商业模式。

他说:"试想,也许三年后,你所需要的 95% 的智能服务都能在本地获取——无论是手机、笔记本电脑还是各类家用设备上,而只有那最后 5% 的高端功能才需要依赖云端。"

哈西比也表示,PrismML 计划继续压缩更大规模的 AI 模型,甚至是万亿参数级别的模型。这将使其进入 OpenAI 的 GPT、Anthropic 的 Claude 等前沿模型所在的领域。

(财联社 史正丞)

相关标签

相关阅读

最新评论

没有更多评论了
科创板日报

科创板日报

上交所科创板电报,股市行情报道

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容