説明
EmbeddingGemma 2は、Google DeepMindによって作成された高度なマルチモーダル埋め込みモデルです。テキスト、画像、動画、音声の入力を単一の768次元ベクトル空間に統合し、検索、分類、クラスタリングなどのさまざまなアプリケーションに適しています。このモデルは740百万のパラメータを含み、270百万のパラメータを持つテキストバックボーンとモジュラー視覚および音声エンコーダーで構成されています。
続きを読む
消費者ハードウェア上で効率的に動作するように設計されたEmbeddingGemma 2は、デバイス上のアプリケーション向けに低遅延の意味的表現を提供します。100以上の言語をサポートし、前のバージョンと比較してコードタスクで約14%の改善を示しています。このモデルは、ストレージコストを削減しながら品質を維持するために、トランケートされた埋め込みを可能にするマトリョーシカ表現学習を特徴としています。
EmbeddingGemma 2は柔軟なフットプリントを提供し、開発者が使用ケースに必要なモダリティのみをロードできるようにします。8,192トークンのコンテキストウィンドウをサポートし、大規模な音声または動画コンテンツを処理する能力があります。このモデルはタスク指向の表現を使用し、軽量なテキスト指示プレフィックスを通じてさまざまなタスクのために埋め込みを最適化します。
このモデルのアーキテクチャは24層、隠れ次元2048、語彙サイズ262,144を含みます。GELU活性化と平均プーリングを使用したゲート付きフィードフォワードネットワークを採用しています。EmbeddingGemma 2は複数のベンチマークで評価され、テキスト、コード、画像、動画、音声の埋め込みタスクで顕著な改善を示しています。
EmbeddingGemma 2は強力ですが、ユーザーはトレーニングデータのバイアスやオープンエンドタスクの課題などの制限に注意する必要があります。開発者は責任ある使用を確保するためにアプリケーションレベルの安全策を実装することが推奨されます。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
EmbeddingGemma 2のハイライト
マルチモーダル埋め込み
100以上の言語をサポート
740Mのパラメータ
デバイス上の低遅延アプリケーション
マトリョーシカ表現学習
タスク指向の表現
8,192トークンのコンテキストウィンドウ
柔軟なフットプリント
EmbeddingGemma 2をはじめる
モデルにアクセス: Hugging Faceを訪問
認証: APIアクセスを設定
環境を設定: ライブラリをインストール
API経由で統合: モデルエンドポイントを使用
最適化: タスクプレフィックスを適用
EmbeddingGemma 2の使用例
- 意味的検索
- テキスト分類
- クラスタリング
- 意味的類似性
- 事実確認
