谷歌表示ღღ，Gemma 3n 代表了设备端 AI 的重大进步ღღ，它为手机ღღ、平板ღღ、笔记本电脑等端侧设备带来了强大的多模式功能ღღ，其性能去年还只能在云端先进模型上才能体验ღღ。

　　多模态设计ღღ：Gemma 3n 原生支持图像ღღ、音频ღღ、视频和文本输入和文本输出ღღ。专为设备端优化ღღ：Gemma 3n 型号以效率为设计重点ღღ，提供两种基于有效参数尺寸ღღ：E2B 和 E4Bღღ。虽然它们的原始参数数量分别为 5B 和 8Bღღ，但架构创新使其运行内存占用与传统的 2B 和 4B 型号相当ღღ，仅需 2GB (E2B) 和 3GB (E4B) 内存即可运行ღღ。架构突破ღღ：Gemma 3n 的核心是全新组件ღღ，例如用于计算灵活性的 MatFormer 架构ღღ、用于提高内存效率的每层嵌入 (PLE) 以及针对设备用例优化的新型音频和基于 MobileNet-v5 的视觉编码器今日买特马ღღ。质量提升ღღ：Gemma 3n 在多语言（支持 140 种文本语言和 35 种语言的多模态理解）ღღ、数学KU游官方最新网站ღღ、编码和推理方面均实现了质量提升ღღ。E4B 版本的 LMArena 得分超过 1300ღღ，使其成为首个达到此基准的 100 亿参数以下模型ღღ。

　　谷歌表示ღღ，要想实现设备性能的飞跃需要彻底重新思考模型ღღ。Gemma 3n 独特的移动优先架构是其基础ღღ，而这一切都始于 MatFormerღღ。

　　Gemma 3n 的核心是 MatFormer（Matryoshka Transformer） 架构ღღ，这是一种专为弹性推理而构建的新型嵌套 Transformerღღ。你可以将其想象成俄罗斯套娃ღღ：一个较大的模型包含其自身更小ღღ、功能齐全的版本ღღ。这种方法将俄罗斯套娃表征学习的概念从单纯的嵌入扩展到所有 Transformer 组件ღღ。

　　因此ღღ，MatFormer 在训练 4B 有效参数 (E4B) 模型时ღღ，会同时优化 2B 有效参数 (E2B) 子模型ღღ，如上图所示今日买特马KU游官方最新网站ღღ。这为开发者提供了两项强大的功能和用例ღღ：

　　预提取模型ღღ：开发者可以直接下载并使用 E4B 模型以获得更高性能ღღ，或者使用已提取的独立 E2B 子模型ღღ，提供两倍更快的推理速度ღღ。使用 Mix-n-Match 自定义尺寸ღღ：为了根据特定硬件限制进行更精细的控制ღღ，你可以使用谷歌称之为 Mix-n-Match 的方法ღღ，在 E2B 和 E4B 之间创建一系列自定义尺寸的模型ღღ。这项技术允许人们精确地对 E4B 模型的参数进行切片ღღ，主要通过调整每层的前馈网络隐藏层维度（从 8192 到 16384）并选择性地跳过某些层来实现ღღ。谷歌还将发布 MatFormer Labღღ，以展示如何检索这些最佳模型ღღ，这些模型是通过在 MMLU 等基准测试中评估各种设置而确定的今日买特马ღღ。

　　展望未来ღღ，MatFormer 架构也为弹性执行铺平了道路ღღ。虽然此功能不属于今天发布的实现ღღ，但它允许单个部署的 E4B 模型在 E4B 和 E2B 推理路径之间动态切换ღღ，从而根据当前任务和设备负载实时优化性能和内存使用情况ღღ。

　　Gemma 3n 模型采用了逐层嵌入 (PLE) 技术ღღ。这项创新专为设备部署而设计ღღ，可大幅提高模型质量KU游官方最新网站ღღ，同时不会增加设备加速器 (GPU/TPU) 所需的高速内存占用ღღ。

　　虽然 Gemma 3n E2B 和 E4B 模型的总参数数量分别为 5B 和 8Bღღ，但 PLE 允许很大一部分参数（与每层相关的嵌入）在 CPU 上加载并高效计算ღღ。这意味着只有核心 Transformer 权重（E2B 约为 2Bღღ，E4B 约为 4B）需要存储在通常较为受限的加速器内存 (VRAM) 中ღღ。

　　通过每层嵌入ღღ，你可以使用 Gemma 3n E2Bღღ，同时仅在 AI 加速器中加载约 2B 个参数ღღ。

　　处理长内容输入（例如来自音频和视频流的序列）对于许多先进的设备端多模态应用至关重要ღღ。Gemma 3n 引入了键值缓存共享 (KV Cache Sharing)ღღ，旨在加快流式响应应用的首个 token 获取时间 (Time-to-first-token)KU游官方最新网站ღღ。

　　KV Cache Sharing 优化了模型处理初始输入处理阶段（通常称为「预填充」阶段）的方式ღღ。来自局部和全局注意力机制的中间层的键和值将直接与所有顶层共享ღღ，与 Gemma 3 4B 相比ღღ，预填充性能显著提升了两倍今日买特马ღღ。这意味着模型能够比以往更快地提取和理解较长的提示序列ღღ。

　　在语音方面九州ku酷游ღღ。ღღ，Gemma 3n 采用基于通用语音模型（USM）的高级音频编码器ღღ。该编码器每 160 毫秒的音频生成一个 token（约每秒 6 个 token）ღღ，然后将其作为语言模型的输入进行集成ღღ，从而提供声音上下文的精细表示ღღ。

　　自动语音识别 (ASR)ღღ：直接在设备上实现高质量的语音到文本的转录ღღ。自动语音翻译 (AST)ღღ：将口语翻译成另一种语言的文本ღღ。

　　经过实践可知ღღ，Gemma 3n 在英语与西班牙语ღღ、法语ღღ、意大利语ღღ、葡萄牙语之间的翻译 AST 效果尤为出色ღღ。对于语音翻译等任务ღღ，利用「思维链」提示可以显著提升翻译效果KU游官方最新网站ღღ。以下是示例ღღ：

　　Gemma 3n 编码器在发布时已可以处理长达 30 秒的音频片段ღღ，但这并非极限ღღ。底层音频编码器是一个流式编码器ღღ，能够通过额外的长音频训练处理任意长度的音频ღღ。后续的实现将解锁低延迟ღღ、长流式传输应用程序ღღ。

　　除了集成的音频功能外今日买特马ღღ，Gemma 3n 还配备了全新的高效视觉编码器 MobileNet-V5-300MKU游官方最新网站ღღ，为边缘设备上的多模态任务提供最先进的性能ღღ。

　　多种输入分辨率ღღ：本机支持 256×256ღღ、512×512 和 768×768 像素的分辨率ღღ，让开发者能够平衡特定应用的性能和细节ღღ。通用的视觉理解ღღ：在广泛的多模式数据集上进行了联合训练ღღ，在各种图像和视频理解任务中表现出色ღღ。高吞吐量ღღ：在 Google Pixel 上每秒处理高达 60 帧ღღ，实现实时设备视频分析和交互式体验ღღ。

　　得益于新架构设计和先进蒸馏技术ღღ，MobileNet-V5-300M 在 Gemma 3 中的表现显著优于基线 SoViT（使用 SigLip 训练ღღ，未进行蒸馏）ღღ。在 Google Pixel Edge TPU 上ღღ，它在量化的情况下实现了 13 倍的加速（不使用量化的情况下为 6.5 倍）ღღ，所需参数减少了 46%KU游官方最新网站ღღ，内存占用减少了 4 倍ღღ，同时在视觉语言任务上实现了更高的准确率ღღ。

　　5 月 20 日ღღ，谷歌 DeepMind 在 I/O 大会上宣布了 Gemma-3nღღ，其小体量ღღ、高性能和低内存占用的特性让人印象深刻ღღ。

　　谷歌的首个 Gemma 模型于去年年初发布ღღ，目前该系列的累计下载量已经超过了 1.6 亿次ღღ。

　　06月20日ღღ，“五一”假期40余万外地游客“打卡”太原古迹ღღ，188宝金博在线开户ღღ，BOB可靠吗ღღ，多宝官网买球ღღ，凤凰彩票体育

　　06月20日ღღ，第十一届广州塔国际登高赛面向全球启动报名ღღ，优德登录ღღ，万博电脑版ღღ，开博体育官网网址ღღ，亚星网址登陆

　　06月20日ღღ，今年春运铁路杭州站预计发送旅客1011万人次ღღ，亿博体育免费试玩九州ku酷游(中国)有限公司官网ღღ，ღღ，云顶在哪里玩ღღ，beat365手机版客户端ღღ，必威手机版登录地址

　　06月20日10国留学生在重庆感受西部陆海新通道建设新貌王者体育官网首页九游会app老哥俱乐部新必赢亚洲官方网站登录赢钱一经

　　06月20日“科目三”之后ღღ，“一元一串的钵钵鸡”也火到台湾？九洲bet网址188金宝搏app苹果怎么下载宝马线上娱乐最新网站千赢国际官方娱乐网站登录

　　06月20日联合国秘书长对叙利亚严重事态发展深表关切亚美体育诈骗九卅app平台体育平台注册送礼金澳门皇冠app是个什么软件……

　　06月20日ღღ，血液科专家ღღ：CAR-T 疗法为急淋白血病患者带来新希望ღღ，足球滚球提示软件ღღ，188体育线上在线注册ღღ，开元app下载ღღ，AG线日ღღ，财经观察ღღ：“硬防晒”渐成标配 撬动夏日消费“新蓝海”ღღ，富豪俱乐部2ღღ，欧宝怎么注册ღღ，亚博在哪玩ღღ，足彩大赢家

　　06月20日前10月中国服务贸易继续快速增长 旅行服务成为服务贸易第一大领域爱博快速注册m6米乐足球官网m6vip198leyu乐鱼app官方网站

　　06月20日ღღ，科技加速赋能房屋“生产”新模式ღღ，体育彩票正版appღღ，必发全站APPღღ，尊龙注册ღღ，万赢体育下载app

　　06月20日ღღ，广西漓江画派将举办二十周年系列活动九洲KU游备用ღღ。ღღ，im电竞app最新版ღღ，谁有cc国际彩球平台ღღ，亿博快速开户ღღ，bet9会员登录通道

　　06月20日ღღ，GDP同比增4.9% “村超”“村BA”助推贵州旅游经济发展酷游九州app下载ღღ，ღღ，ag贵宾会ღღ，扑克牌二八杠比大小ღღ，365体育网址手机ღღ，鸭脖体育地址

　　06月20日国乒冲击三连胜 孙颖莎女单比赛光速获胜万博手机端app云顶国际线线日中共中央宣传部发出关于认真组织学习《习近平文化思想学习纲要》的通知新宝手机5登陆地址鸿博体育网投平台足球时时分雷速aoa体育怎么样

　　06月20日“厦门—澳洲”航线又一国产汽车品牌首航“出海”百老汇手机官方网站博悦娱登录注册云顶娱乐官网mg手机版网址

　　败北女角太多了ღღ！ღღ，男子卖10万元黄金后银行账户被冻结刘德华台北唱《中国人》遭政客攻击 国台办以歌单回应大赢家体育官网首页牛牛线

　　中国球迷打钱支持新加坡门将的饭馆九州酷游官网ღღ，ღღ，宝可梦 礼宾部习语｜“不负青春ღღ、不负韶华”188体育外围线路检测中心奥博平台怎么样知乎沙巴sb体育官网网址宝金博在线

　　《girlsbandcry》第十话开播ღღ，男子偷马路护栏卖湖南推动周敦颐理学文化传承发展升博下载地址果博免费试玩手机买球APP下载必威官方登陆

　　太阳耀斑会影响正常生活吗ღღ，老家村干部辟谣樊振东是留守儿童上海浦东美术馆年度首展上演“超现实主义”百年庆典菠菜体育ios版六合杀手Bag体育注册ag平台网站

　　黎真主党武装证实袭击以北部军事目标ღღ，牧民转行快递员一人坚守4000米高原北京东城ღღ：奥运健儿与体校师生交流九州最新wangzhiq博鱼在哪开户为什么365网站打不开yobo娱乐

　　感冒后千万别做这3件事ღღ，光大集团原董事长唐双宁被逮捕王毅在外交部2024年新年招待会上的致辞18bet什么公司足球外围赛在哪里买AG试玩在哪里必威网页版下载