Deskripsi
EmbeddingGemma 2 adalah model embedding multimodal canggih yang dibuat oleh Google DeepMind. Model ini mengintegrasikan input teks, gambar, video, dan audio ke dalam satu ruang vektor berdimensi 768, menjadikannya cocok untuk berbagai aplikasi seperti pencarian, klasifikasi, dan pengelompokan. Model ini terdiri dari 740 juta parameter, termasuk 270 juta parameter untuk backbone teks dan pengkode visi serta audio modular.
Baca Selengkapnya
Dirancang untuk beroperasi secara efisien pada perangkat keras konsumen, EmbeddingGemma 2 memberikan representasi semantik dengan latensi rendah untuk aplikasi di perangkat. Model ini mendukung lebih dari 100 bahasa dan menunjukkan peningkatan 14% dalam tugas kode dibandingkan pendahulunya. Model ini memiliki Matryoshka Representation Learning, yang memungkinkan embedding yang dipotong untuk mengurangi biaya penyimpanan sambil mempertahankan kualitas.
EmbeddingGemma 2 menawarkan jejak yang fleksibel, memungkinkan pengembang untuk memuat hanya modalitas yang diperlukan untuk kasus penggunaan mereka. Model ini mendukung jendela konteks sebesar 8.192 token, mampu memproses konten audio atau video yang luas. Model ini menggunakan representasi yang diarahkan oleh tugas, mengoptimalkan embedding untuk berbagai tugas melalui prefiks instruksi teks yang ringan.
Arsitektur model ini mencakup 24 lapisan, dimensi tersembunyi sebesar 2048, dan ukuran kosakata sebesar 262.144. Model ini menggunakan jaringan feedforward terkontrol dengan aktivasi GELU dan pooling rata-rata. EmbeddingGemma 2 telah dievaluasi di berbagai tolok ukur, menunjukkan peningkatan signifikan dalam tugas embedding teks, kode, gambar, video, dan audio.
Meskipun EmbeddingGemma 2 sangat kuat, pengguna harus menyadari keterbatasannya, seperti bias dalam data pelatihan dan tantangan dengan tugas terbuka. Pengembang disarankan untuk menerapkan langkah-langkah pengaman di tingkat aplikasi untuk memastikan penggunaan yang bertanggung jawab.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan EmbeddingGemma 2
Embedding multimodal
Mendukung lebih dari 100 bahasa
740 juta parameter
Aplikasi di perangkat dengan latensi rendah
Matryoshka Representation Learning
Representasi yang diarahkan oleh tugas
Jendela konteks 8.192 token
Jejak yang fleksibel
Memulai dengan EmbeddingGemma 2
Akses model: Kunjungi Hugging Face
Autentikasi: Siapkan akses API
Siapkan lingkungan: Instal pustaka
Integrasi melalui API: Gunakan endpoint model
Optimalkan: Terapkan prefiks tugas
Kasus Penggunaan EmbeddingGemma 2
- Pencarian Semantik
- Klasifikasi Teks
- Pengelompokan
- Kesamaan Semantik
- Verifikasi Fakta
