描述
EmbeddingGemma 2 是 Google DeepMind 创建的先进多模态嵌入模型。它将文本、图像、视频和音频输入整合到一个 768 维的向量空间中,使其适用于搜索、分类和聚类等多种应用。该模型包含 7.4 亿个参数,包括一个 2.7 亿参数的文本主干和模块化的视觉和音频编码器。
阅读更多
EmbeddingGemma 2 旨在高效地在消费硬件上运行,为设备上的应用程序提供低延迟的语义表示。它支持超过 100 种语言,并在代码任务上相比其前身提高了约 14%。该模型具有 Matryoshka 表示学习功能,允许截断嵌入以降低存储成本,同时保持质量。
EmbeddingGemma 2 提供灵活的占用空间,使开发者能够仅加载其用例所需的必要模态。它支持 8,192 个标记的上下文窗口,能够处理大量的音频或视频内容。该模型使用任务引导的表示,通过轻量级文本指令前缀优化各种任务的嵌入。
该模型的架构包括 24 层,隐藏维度为 2048,词汇表大小为 262,144。它采用带有 GELU 激活和均值池化的门控前馈网络。EmbeddingGemma 2 在多个基准测试中进行了评估,显示出在文本、代码、图像、视频和音频嵌入任务中的显著改进。
尽管 EmbeddingGemma 2 功能强大,但用户应注意其局限性,例如训练数据中的偏见和开放式任务的挑战。鼓励开发者实施应用级别的安全措施,以确保负责任的使用。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端
- 平台网页版
EmbeddingGemma 2亮点
多模态嵌入
支持 100 多种语言
7.4 亿参数
低延迟设备应用
Matryoshka 表示学习
任务引导的表示
8,192 个标记的上下文窗口
灵活的占用空间
EmbeddingGemma 2入门
访问模型:访问 Hugging Face
身份验证:设置 API 访问
设置环境:安装库
通过 API 集成:使用模型端点
优化:应用任务前缀
EmbeddingGemma 2的使用案例
- 语义搜索
- 文本分类
- 聚类
- 语义相似性
- 事实验证










