DC娱乐网

谷歌正式开源EmbeddingGemma 2,一款744M参数的原生多模态嵌入模

谷歌正式开源EmbeddingGemma 2,一款744M参数的原生多模态嵌入模型。它将文本、代码、图像、视频与音频映射到统一向量空间,在七大基准套件上全面超越专用模型及参数量2至12倍的更大模型,文本-only版本仅271M参数,MTEB多语言v2得分61.36。

最值得关注的是其模块化架构与端侧友好设计。模型以271M参数的双向Transformer骨干为核心,叠加167M视觉编码器和305M音频编码器,三者可独立加载:纯文本跑271M,视觉语言439M,音频语言577M,全模态744M。编码器输出软token进入共享骨干,形成统一768维空间,支持任意交错输入。训练采用简化逐层嵌入与多阶段课程,按模态与目标逐步推进,保证单模态、跨模态与混合模态表现均衡。端侧层面,视觉token预算可调、向量维度可截断、权重可量化,int4版本在MTEB多语言上仅掉0.4分;实测量化后文本-only活跃内存低至约191MB,全模态约567MB,可在手机与笔记本本地完成检索。代码任务提升尤为明显,MTEB Code从前代68.76跃至78.68,直接服务本地代码库索引与编程代理。