谷歌 Gemma 4 首测：手机离线可用，却栽在脑筋急转弯上

雷科技 AI 硬件组 | 编辑：三明治 | 监制：罗超

有一说一，最近这 AI 大模型圈，属实有点抽象了。

各家都在闷声鼓捣那些偏向商业落地的应用，几家大厂们满脑子都是怎么把 OpenClaw 的概念融入到自家的产品里，真正让人觉得眼前一亮的底层技术突破反倒不怎么看得到了。

谷歌拍了拍脑袋，寻思这样不得劲啊。

于是乎，就在前几天，谷歌推出了新一代开源模型 Gemma 4，包括 E2B、E4B、26B、31B 四个规格，其中 E2B、E4B 两个较小模型直接可以在手机、树莓派等设备上部署运行，26B、31B 也只需要一张消费级显卡就能跑起来。

（图源：雷科技）

要知道，前两年吵得沸沸扬扬的 AI 手机，大家买回家用了半年才发现，超过九成的核心功能依然得依靠网络把数据传到云端服务器才能实现，一旦断网就是个哑巴，这实在让人觉得差点意思。

谷歌这边就表示，Gemma 4 的发布代表了移动设备端 AI 的重大进步，它为手机、平板、笔记本电脑等端侧设备带来了强大的多模态功能，可以让用户体验到过去只有云端先进模型上才能体验的高效处理性能。

又来个以小搏大吗？有点意思。

为了看看这玩意的真实成色，小雷也去下载了谷歌发布的最新模型进行测试，接下来就给大家说说里面的亮点吧。

谷歌要以小搏大

为什么谷歌这次能引起这么大的轰动？

要搞清楚这点，我们就要先搞清楚这个模型是什么。

Gemma 4 E2B/E4B 是谷歌利用 MatFormer 架构打造的轻量化端侧大模型，它借由 PLE 和 Hybrid Attention 结构实现了长上下文和低内存消耗设计，内存占用与传统的 2B 和 4B 模型相当，最低只要 3.2GB 内存就能正常调用。

（图源：谷歌）

其次，我们要搞清楚这个模型能做什么。

过去的手机端大模型，大多是简单粗暴地把云端模型切掉一大部分参数，然后硬塞进手机里，这就导致它们往往是个偏科生，只能做点简单的文字问答。

但这次 Gemma 4 的 E2B 和 E4B 型号彻底改变了思路，就像上面说的那样，它们从底层架构开始就采用了原生多模态设计。

原生多模态就是说，这个模型原生支持图像、音视频等多种输入模态，它不需要先把你说的话翻译成文字再慢慢理解，而是能直接听懂语气和语意；它在看图的时候也不需要把高分辨率的照片暴力压缩，而是能直接看清画面里的细节。

（图源：谷歌）

至少理论上是这样的。

最后，我要怎样做，才能用上 Gemma 4 呢？

放在一年前，想在手机上部署端侧大模型其实是一件异常复杂的事情，往往还要借助 Linux 虚拟机的帮助才能实现，雷科技曾经还为此推出过一篇教程，因此大家会有这样的疑问也是很合理的。

但是现在，就没有这个必要了。

Google 在去年低调上线了一款新应用，名为Google AI Edge Gallery，支持用户在手机上直接运行来自 Hugging Face 平台的开源 AI 模型，这是 Google 首次尝试将轻量 AI 推理带入本地设备。

目前该应用已在 Android 平台开放下载，感兴趣的读者可以直接前往 Play Store 下载体验。在完成大模型加载后，用户就可以利用这款应用实现对话式 AI、图像理解以及提示词实验室功能，甚至可以导入自定义 LiteRT 格式模型。

无需联网，直接调用手机本地算力完成任务，就是这么简单。

更适合移动设备体质

接下来，就轮到万众期待的测试环节了。

如图所示，谷歌为这款应用默认准备了九款模型，其中有自家的 Gemma 系列，也有千问和深度求索的开源模型，我们选择了目前最强的 Gemma 4-E4B、前代 Gemma 3n-E4B、千问的 Qwen2.5-1.5B 和 DeepSeek-R1-1.5B 进行测试。

首先是一系列经典的逻辑问题：

Q：Strawberry 一词中有多少个字母 "r"？

这一题看起来简单，却实实在在难倒过诸多 AI 大模型。

实测下来，通过谷歌部署的这一系列模型，全部都会回答 "2 个 "，倒是我另外部署的 Qwen3-4B GGUF 能给出正确答案 "3 个 "，只是莫名其妙的反复思考让它整整生成了两分半钟，挺浪费时间的。

Q：俩父子钓了三条鱼，每个人都分到一条，这是咋回事？

这个就更绝了，愣是没有一个能答对的，甚至连我在现实中问同事，也至少有一半是反应不过来的，只能说这种玩文字游戏的逻辑题目，对于人和大模型的专注度都是一种考验。

（图源：雷科技，从左到右：Gemma 4、Gemma 3n、DS R1、Qwen2.5）

Q：有三个人 A、B、C。其中一个是骑士（只说真话），一个是无赖（只说假话），一个是间谍（可说真话也可说假话）。

A 说：‘我是骑士。’

B 说：‘ A 说的是真话。’

C 说：‘ B 是间谍。’

已知三人身份各不相同，请推理出 A、B、C 分别是谁，并说明理由。

这回 Gemma 4 经过一系列的穷举推理，总算是拿捏了这道题目，总耗时 59s，倒也不算长，至于其他三款大模型，除了一本正经胡说八道的，就是自己陷入思考过程无限循环的。

从结果来看，小参数确实会显著降低模型的逻辑思考能力，思考功能可以在一定程度上降低 AI 幻觉产生的可能性，但也因此会增加生成所需的时间。

然后是一道比较简单的文学误导题：

Q：" 种豆南山下 " 的前一句是什么？

事实上，这是出自陶渊明《归园田居 · 其三》的首句诗，并没有前一句，正好能看看这几款小参数模型是否存在为了回答问题编造数据的现象。

结果是全错，论给人陶渊明整成现代诗人这一块。

接下来，是一个简单的文本处理任务。

具体来说，我这边提供了 2500 字左右的文章，希望他们能够给出对应的文章总结。

其中，只有 Gemma 3n-E4B 和 Gemma 4-E4B 算是能完成任务，但是前者耗时将近两分钟，而且给出的答案抓不住重点，后者给出来的答案更加简明扼要。

至于参数最小的 DS R1-1.5B，根本就给不出答复。

从以上四轮测试来看，在文本处理、逻辑推理能力上，Gemma 4-E4B 算是有小幅提升，但是在生成速度、回复成功率上其实是领先不少的，只能说深度思考显然是不适合本地模型的。

不过 Gemma 3n 并不是单纯的文本大模型，人家可是罕有的小参数多模态大模型。

先测试一下仅限 Gemma 的Ask Audio，我导入了一份 21 分钟的 wav 音频，可以看到目前最多支持上传 30s 内容，语音转文字出来的内容和原音频几乎没有关系，目前可用性挺一般的。

接着是Ask Image，我可以通过随手拍摄或者上传照片的方式，向 Gemma 4 提问。

实测下来，Gemma 4 对于图片里的元素识别准确了不少，基本都能完整复述出图片里的元素，只是它对于动漫角色依然是一窍不通，诸如花卉识别这类应用也不精准，只有比较常见的食物、硬件这类可以识别出来。

至于 Agent Skills... 这玩意除了俩文字游戏外，目前几个功能都是需要联网实现的，和端侧大模型关系不大。

你别说，在功能的丰富程度上，Gemma 4 确实赢太多了。

端侧 AI 的拐点终于来了

好了，经过我这几天的轮番折腾，是时候给谷歌这次的 Gemma 4 下个结论了。

在我看来，这玩意儿确实可能会引发本地 Agent 浪潮。

在基础的文本问答和逻辑能力上，Gemma 4 并没有做出什么突破，但是它的思考链更加合理，生成速度对比前代提升了 1.5x-2x，这在应对很多不算复杂的日常问题时已经绰绰有余。

而且它的优点也很突出，除了兼容一系列 Agent Skills 外，Gemma 4-E4B 甚至可以做到音频和图片的原生输入，虽说前者目前限制多多，后者理解能力有待提升，但是这都是人无我有的核心价值。

更重要的是，这件事并不是谷歌一家在做。

为了让这两模型真的跑起来，谷歌这次是把整条硬件链路一起拉进来了，从 Pixel 团队，到高通、联发科，再到 ARM、英伟达都参与了优化，这也让 Gemma 4 可能成为市面上第一个能够正常调用 NPU 的端侧大模型

过去一年，手机大模型的赛道一直处于不温不火的尴尬期。

如今谷歌直接把桌子掀了，把性能强悍的多模态模型塞进手机，必将逼迫国内厂商加快端侧技术的迭代速度。

可以预见，在未来的大半年时间里，一场围绕着手机本地算力的反击战即将打响。而当 Agent 可以调用本地模型完成推理、生成、任务执行，一台足够安全、足够懂你且无需连网的 AI 手机或许离我们已经不远了。

而在那一天到来之前，Gemma 4 绝对是你当下最值得上手体验的选择。

End

欢迎扫码添加小雷微信

记得备注想进群的手机品牌哦

跟小雷一起畅聊数码与 AI 科技

另外小雷建了很多粉丝群，欢迎扫码加入！

大家伙一块聊聊天，分享玩机技巧～