[控场AI]
· 5 分钟阅读· 2,655 字

Google EmbeddingGemma 2:轻量级多模态嵌入模型开源

Google EmbeddingGemma 2:轻量级多模态嵌入模型开源

Google DeepMind 开源 740M 参数嵌入模型 EmbeddingGemma 2,五种模态共享向量空间,可在端侧运行。

Google DeepMind 发布的 EmbeddingGemma 2 是一个 740M 参数的开源嵌入模型,能把文本、代码、图像、视频和音频映射到同一个共享向量空间,用一次查询完成跨模态检索。它在端侧运行门槛较低,完整多模态模式在 Pixel 11 Pro 上约需 567MB 内存,纯文本模式仅 191MB,适合本地相册搜索、离线笔记检索和端侧 RAG 等隐私敏感场景。官方数据显示 MTEB Code 分数从 68.76 提升到 78.68,代码语义表征能力明显增强,开发者可用同一模型同时检索文档与代码。模型采用 Apache 2.0 许可,权重已上线 Hugging Face 和 Kaggle,便于商用集成与社区微调。实际多模态对齐质量与端侧功耗仍有待验证。

多模态嵌入的新选项

在 Product Hunt 上以 134 票冲上日榜第二的 Google EmbeddingGemma 2,是 Google DeepMind 放出的开源嵌入模型。它的核心能力是把文本、代码、图像、视频和音频映射到同一个共享向量空间,用一次查询就能跨模态检索。对需要本地化多模态搜索的开发者来说,这是一个值得关注的选项。

Google EmbeddingGemma 2 在 Product Hunt 的发布页面

嵌入模型并不直接生成内容,它的任务是把各种数据转成向量,让相似的东西在向量空间里靠得更近。EmbeddingGemma 2 的特别之处在于,它不只处理文本,而是把五种模态统一到一个空间里做对齐。

嵌入模型(Embedding Model) 是机器学习中的一类基础模型,它不生成文字或图像,而是把输入数据压缩成一个固定长度的数值向量(通常几百到几千维)。这个向量可以理解为数据的“语义坐标”:内容相近的输入,其向量在空间中的距离也更近。检索系统正是靠计算向量之间的距离(如余弦相似度)来判断相关性。

多模态嵌入则进一步要求不同种类的数据——文字、图片、音频等——被映射到同一个坐标系里。传统做法是为每种模态单独训练一个嵌入模型,检索时再做跨模型的分数对齐,工程上很麻烦。共享向量空间的好处是,一句文本查询可以直接和一张图片的向量比较,无需中间转换。代价是对齐难度高:模型必须学会“一张狗的照片”和“一只狗”这句话在语义上应当靠近。

MTEB(Massive Text Embedding Benchmark) 是衡量嵌入模型质量的常用基准集合,覆盖检索、分类、聚类、语义相似度等多类任务。文章提到的 MTEB Code 是其中专注代码检索的子集,分数越高代表模型越能理解代码语义。

740M 参数塞进端侧

EmbeddingGemma 2 的参数量是 740M。根据官方数据,完整多模态模型在 Pixel 11 Pro 上运行约需 567MB 内存,纯文本模式只要 191MB。这个体量意味着它可以在手机上跑起来,不必把数据传到云端。

端侧运行带来的直接好处是隐私和延迟:检索请求不出设备,响应也不需要网络往返。对于做本地相册搜索、离线笔记检索、端侧 RAG 这类场景,内存占用是能不能落地的硬门槛,191MB 的文本模式给了比较宽裕的空间。

参数量的量级参照:740M(约 7.4 亿)参数在嵌入模型里属于中等偏小。作为对比,主流大语言模型动辄 70 亿到数千亿参数,而多数纯文本嵌入模型在 1 亿到 5 亿之间。EmbeddingGemma 2 要在 740M 内同时承载五种模态的编码能力,说明它很可能采用了某种共享主干加模态适配器的结构,而非为每种模态各配一套完整编码器。

端侧 RAG 指把检索增强生成(Retrieval-Augmented Generation)的检索环节放在本地设备上执行。传统 RAG 需要把文档向量存到云端向量数据库,查询时上传文本、下载结果;端侧方案把嵌入模型和向量库都放在手机里,数据不出设备。它的瓶颈正是内存——模型权重加上运行时开销必须控制在应用可接受的范围内,191MB 的文本模式因此比 567MB 的完整模式更容易被集成。

代码检索提升明显

官方给出的 MTEB Code 分数从 68.76 提升到 78.68,接近 10 分的涨幅。代码检索和自然语言检索的难点不同,代码里的标识符、结构关系和注释语义需要模型同时理解,这个分数提升说明新版本在代码语义表征上做了针对性优化。

对开发者工具来说,这意味着可以用同一个模型既搜文档又搜代码片段。代码助手、内部知识库、跨仓库检索这类应用,不必再为代码单独维护一套嵌入管线。

开放许可与获取方式

EmbeddingGemma 2 采用 Apache 2.0 许可,权重已经放在 Hugging Face 和 Kaggle 上。Apache 2.0 允许商用和修改,对企业集成比较友好,不会像某些自定义许可那样带来法务上的额外确认成本。

权重托管在两个主流平台,意味着下载和微调的路径都比较成熟。社区可以基于它做领域适配,比如针对特定语言的文本检索,或者特定类型的音频、视频内容做再训练。

Apache 2.0 是业界最宽松的开源许可证之一,允许使用者自由使用、修改、分发软件,包括用于商业产品,且不要求衍生作品以同样的许可证开源。它附带专利授权条款,能在一定程度上降低专利诉讼风险。企业采用时通常只需保留版权声明和许可文本,无需逐案法务审批,这与 Llama 系列等带使用限制的自定义许可形成对比。

微调(Fine-tuning) 指在预训练权重的基础上,用特定领域数据继续训练,使模型更贴合目标场景。对嵌入模型而言,微调常用于适配小语种、专业术语或特定内容类型。权重同时托管在 Hugging Face 和 Kaggle,意味着既可以用 transformers、sentence-transformers 等主流库直接加载,也能在 Kaggle Notebook 环境中快速试验,降低了社区复现和二次开发的门槛。

实际场景里能做什么

把五种模态放进一个空间,最直接的用法是统一检索入口。用户输入一句话,系统可以同时返回相关的文档段落、代码片段、图片、视频片段和音频片段,并按相似度排序。

在端侧,这意味着手机相册可以用自然语言描述来找照片和视频,笔记应用可以跨文本和录音检索,开发者工具可以同时索引文档和代码。多模态嵌入把原本需要多个专用模型的管线压缩成一个模型,工程复杂度随之下降。

值得跟踪的方向

EmbeddingGemma 2 目前公开的信息集中在模型规格和基准分数上,实际检索质量还需要在不同数据集上验证。多模态对齐的效果往往因模态组合而异,文本和图像的对齐通常比音频和视频更成熟,跨模态检索在噪声数据上的表现值得后续观察。

另一个观察点是端侧多模态的实际功耗和速度。567MB 的内存占用可以接受,但多模态推理在手机上的发热和耗电表现,会直接影响它能不能常驻在应用里。对做端侧 AI 的团队来说,这是一次把多模态检索从云端搬到设备上的尝试。

#EmbeddingGemma 2#Google 嵌入模型#多模态嵌入#开源嵌入模型#端侧 AI#MTEB Code#跨模态检索#Apache 2.0
分享:

相关推荐