夜晚失焦的彩色光斑,疏密不一地散在暗底上

上一代有 2000 万次下载,这一代换了赛道

10 月 6 日,Google DeepMind 发布 EmbeddingGemma 2。先说背景:初代 EmbeddingGemma 主打一个轻量、高质量、能跑在消费级硬件上的文本嵌入模型,下载量超过 2000 万次,常见用途是端侧搜索和隐私优先的 RAG。第二代的关键变化是从文本扩展到代码、图像、视频、音频,统一映射进同一个向量空间——用一句文字去翻一段语音备忘,或者用文字在几小时录音里定位片段,靠的是同一个模型。许可为 Apache 2.0(可商用),参数量 740M。

模块化设计,让「用多少装多少」成为可能

这个数字背后有讲究:纯文本任务最低只要 270M 参数,视觉编码器 170M、音频编码器 300M 是按需加载的。输出向量用 Matryoshka 表示学习(MRL)动态截断,可以从 768 维压到 512、256 甚至 128 维,官方称本地向量库的存储和内存最多能省到六分之一。资源占用给了参考值:量化后跑在 Google Pixel 11 Pro 上,纯文本权重约占 191MB 内存,全多模态约 567MB。上下文窗口 8K token,是初代的 4 倍,可以一次性吃下约 5.5 分钟音频、29 张图片或 58 帧视频,也支持图文音交错输入。

能力提升最明显的其实是代码

在 MTEB 的代码子集上,成绩从初代的 68.76 提升到 78.68,涨了 9.92 分,官方据此推荐它用于本地代码库索引、语义代码搜索和编码智能体的检索环节。音频侧有 MAEB 对标,图像侧有 MAEB lite,官方口径是在 10 亿参数以下这个量级里质量与参数的比值领先,并能超过部分参数量两倍以上的专用模型。完整的评测指标和模型信息在 EmbeddingGemma 2 的 model card 里公开。

接地气的是「能怎么落地」写得很细

权重放在 Hugging Face 和 Kaggle 上,可以在 transformers、sentence-transformers、vLLM、SGLang、Ollama、llama.cpp(已有 GGUF)、MLX、LM Studio 里直接跑,浏览器里可以走 transformers.js 或 WebGPU,向量可以存进 Qdrant,微调参考 Unsloth 的文档。它还和 Gemma 4 共用文本分词器与音频编码器,两个模型串成一条端侧 RAG 管线时的总内存更省。官方演示的场景都是很实用的:用文字或图片在本地媒体库里找相似内容、用一句描述定位视频里的某个瞬间、本地文件检索再交给 Gemma 4 做推理。

对做企业数字化、小团队的实际启发

第一,「端侧做检索、云端做推理」这条分工线现在有了便宜可靠的零件。客户资料、合同扫描件、监控录像这类不方便上传的素材,可以先用本地嵌入模型建索引、把检索做在本地,只把命中的片段送出去做理解。第二,MRL 截断这件事值得记住:向量维度不是越大越好,128 维能撑住的场景就别用 768 维,省下的存储和内存是实打实的成本。第三,多模态统一空间最容易被低估的用途是跨类型检索——按「那句话是怎么说的」去找录音、按描述去找图,这在客服复盘、档案整理这类活儿上,比传统关键字搜索的命中率高得多。要注意的边界是:嵌入模型只负责「找到」,不负责「答对」,检索质量仍然取决于你的切片方式和素材本身。