Google DeepMind 发布 EmbeddingGemma 2，支持端侧多模态嵌入
EmbeddingGemma 2: an open, lightweight multimodal embedding model
Google DeepMind 发布 EmbeddingGemma 2，将文本、代码、图像、视频和音频映射到统一嵌入空间，支持端侧离线检索与 RAG。模型基于 Gemma 4 架构，拥有 740 million 参数，采用 Apache 2.0 许可，支持 8K token 上下文，并可按需加载视觉和音频编码器、将输出向量从 768 维截断至 128 维。
模块化编码器与可截断向量提供了端侧多模态检索的资源取舍依据，开发者可按输入类型和存储预算选择部署配置。
Oct 06, 2026
|
EmbeddingGemma 2 是设备端多模态嵌入领域能力最强的模型，可原生地将文本、图像、音频和视频的组合映射到统一的嵌入空间。
Sahil Dua
Google DeepMind 研究工程师
Henrique Schechter Vera
Google DeepMind 研究工程师
您的浏览器不支持音频元素。
收听文章
[[duration]] 分钟
此内容由 Google AI 生成。生成式 AI 尚处于实验阶段
我们去年推出了 EmbeddingGemma，为高质量文本嵌入提供轻量级选择，帮助您的应用直接在消费级硬件上组织、搜索和关联信息。开发者社区的反响远超我们的预期。它的下载量已超过 20 million 次，开发者已用它打造更智能的设备端搜索工具，以及隐私优先的检索增强生成（RAG）流水线。
今天，我们正式推出 EmbeddingGemma 2，将能力从文本扩展至代码、图像、视频和音频，把它们统一到共享的嵌入空间中。EmbeddingGemma 2 基于 Gemma 4 架构构建，采用允许商业使用的宽松 Apache 2.0 许可证发布，拥有 740 million 个参数，非常适合设备端推理。它可以根据语音备忘录查找特定视频片段，也可以根据文本查询搜索长达数小时的录音，所有处理均由单个原生多模态模型完成。
EmbeddingGemma 2 与 Gemini Embedding 模型采用相同的技术构建，具有以下特点：
- 同等规模中的佼佼者：在 MTEB（大规模文本嵌入基准）Code 和 MAEB（大规模音频嵌入基准）等基准测试中，在参数量低于 1B 的同等规模多模态嵌入模型中取得领先成绩，同时在文本、视觉和音频任务中达到或超越许多更大规模的模型。
- 模块化设计：纯文本工作负载所需参数量低至 270M，还可选配视觉（170M）和音频（300M）编码器，以获得完整的多模态支持。
- 节省存储空间：借助套娃表示学习（MRL），开发者可以将输出向量从 768 维动态截断至 512、256 或 128 维。这可使本地向量数据库的存储空间需求和内存用量最多降至原来的 1/6。
- 针对设备端性能优化：可在严格的资源限制下高效运行。经过量化后，在 Google Pixel 11 Pro 上，EmbeddingGemma 2 的纯文本权重所需运行内存低至约 191MB，完整多模态模型则低至约 567MB。
- 支持更长上下文：具备 8K token 的上下文窗口（是 EmbeddingGemma 1 的 4 倍），可直接在本地硬件上处理长达 5.5 分钟的音频、29 张图像、58 帧视频，或这些内容的交错组合。
在代码、视觉和音频领域实现顶尖质量
EmbeddingGemma 2 在保持 EmbeddingGemma 强大多语言文本性能的同时，代码性能显著提升了 9.92 分（在 MTEB Code 中从 68.76 提升至 78.68），非常适合本地代码库索引、语义代码搜索和编程智能体检索。在图像、视频、文档和音频领域，它为参数量低于 1B 的模型树立了单位参数质量的新标准，甚至超越了一些规模超过其两倍的专用模型。
完整评估指标和模型信息请参阅 EmbeddingGemma 2 模型卡。
完全在设备端实现语义搜索、路由和检索
EmbeddingGemma 2 将强大能力直接带到边缘硬件上。在本地生成嵌入有助于确保数据隐私、降低流水线延迟，并让开发者能够构建完全离线运行的跨模态搜索与检索功能。
与 Gemma 4 等生成式模型搭配使用时，EmbeddingGemma 2 可支持能够理解复杂多模态数据的端侧 RAG 流水线。由于 EmbeddingGemma 2 基于 Gemma 4 构建，并与其共享文本分词器和音频编码器，开发者可以在统一流水线中同时运行这两个模型，同时降低两者合计的总内存占用。
要了解如何使用 LiteRT 构建端侧搜索和 RAG 系统，请阅读 Google AI Edge 博客文章。
开始使用 EmbeddingGemma 2
我们与以下合作伙伴密切合作，确保 EmbeddingGemma 2 能在您的开发环境中开箱即用：
- 下载模型：可在 Hugging Face 和 Kaggle 上获取模型权重，Gemini Enterprise Agent Platform Model Garden 也即将提供。访问 Hugging Face 上的 LiteRT 社区，获取针对端侧优化的模型。
- 端侧部署：使用 Google AI Edge 的 MediaPipe 开发跨平台应用，实现开箱即用的嵌入、检索 & 决策任务，或使用 LiteRT 集成自定义模型。使用 transformers.js 或 WebGPU 为浏览器构建应用。
- 使用您喜爱的开发工具：使用 transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama 和 LMStudio 高效部署模型服务。使用 Qdrant 存储嵌入向量。
- 微调：按照 Unsloth 的指南，了解如何针对您的用例微调 EmbeddingGemma 2。
来源：Google DeepMind · deepmind.google