Deskripsi
MetaEncoder v1 adalah model ekstraksi fitur yang kuat yang dikembangkan oleh Facebook, dengan 28 miliar parameter. Dihosting di Hugging Face, model ini menyediakan solusi yang kuat bagi pengembang dan peneliti yang bekerja dengan jenis data yang kompleks. Model ini dirancang untuk kemudahan penggunaan, memerlukan `transformers>=5.15` dan GPU 80 GB untuk kinerja optimal dalam presisi bf16.
Baca Selengkapnya
Di inti, MetaEncoder v1 menawarkan tiga fungsionalitas utama: `encode`, `retrieve`, dan `decide`. Fungsi `encode` memungkinkan pengguna untuk menyematkan berbagai input—seperti string, gambar PIL, atau kamus yang berisi teks, gambar, atau bingkai video—ke dalam tensor float32 (n, 6656). Embedding ini dinormalisasi L2 dan dapat digunakan untuk penyimpanan, pengelompokan, atau tugas perbandingan. Model ini sensitif terhadap instruksi, yang berarti input yang sama dapat disematkan secara berbeda berdasarkan konteks yang diberikan, meningkatkan adaptabilitasnya untuk kasus penggunaan tertentu.
Fungsi `retrieve` dirancang untuk meranking korpus terhadap kueri yang diberikan. Pengguna dapat mengirimkan kueri dan korpus (baik daftar item atau tensor yang telah dienkode sebelumnya) bersama dengan instruksi opsional untuk keduanya. Ini mengembalikan daftar objek `Hit`, diurutkan dari yang terbaik ke yang pertama, menjadikannya ideal untuk aplikasi pencarian dan pengambilan informasi. Kemampuan ini sangat efisien untuk korpus besar, karena korpus dapat dienkode sekali dan kemudian dicari berulang kali.
Akhirnya, fungsi `decide` memungkinkan model untuk menjawab pertanyaan gaya Jev tentang keadaan yang diberikan. Keadaan ini bisa berupa string atau nilai JSON apa pun, yang mungkin disertai dengan gambar atau video. Pertanyaan disusun dengan tipe seperti 'noul' (ya/tidak), 'choice' (beberapa opsi), atau 'score' (tingkat terurut), masing-masing dengan instruksi dan kriteria tertentu. Model ini memberikan jawaban dengan probabilitas, skor kepercayaan, dan kesamaan kosinus mentah. Fungsi `decide_batch` juga tersedia untuk memproses beberapa keadaan secara bersamaan, dan fitur kalibrasi memungkinkan pengguna untuk menyetel suhu model sesuai dengan data spesifik mereka untuk meningkatkan akurasi.
Salah satu keuntungan utama dari MetaEncoder v1 adalah format prompt internalnya, yang menghilangkan kebutuhan bagi pemanggil untuk menulis prompt secara manual. Pembungkus memastikan input diformat persis seperti saat pelatihan, menjaga konsistensi dan menyederhanakan integrasi. Ini termasuk menangani giliran sistem dan pengguna, pengkodean gambar dan video, serta pooling. Untuk pengguna tingkat lanjut, akses langsung ke `modeling_metaencoder.py` dimungkinkan untuk melewati pembungkus untuk format prompt dan pooling kustom, menawarkan fleksibilitas sambil tetap memanfaatkan kemampuan inti model.
- KategoriModel AI & LLM
- PenerapanCloud
- PlatformHugging Face
Sorotan MetaEncoder v1
Model Ekstraksi Fitur
28 Miliar Parameter
Sematkan Input (encode)
Ranking Korpus Terhadap Kueri (retrieve)
Jawab Pertanyaan Gaya Jev (decide)
Mendukung Input Teks, Gambar, dan Video
Format Prompt Internal
Penyematan Berdasarkan Instruksi
Proses Keputusan Batch
Kalibrasi Model untuk Penyesuaian Suhu
Embedding Dinormalisasi L2
Tidak Memerlukan Penulisan Prompt Manual
Kompatibel dengan transformers>=5.15
Memerlukan GPU 80 GB (bf16)
Akses Langsung ke Pemodelan untuk Kustomisasi
Memulai dengan MetaEncoder v1
Akses Model: Arahkan ke halaman facebook/meta-encoder-v1 di Hugging Face.
Siapkan Lingkungan: Pastikan `transformers>=5.15` terinstal dan GPU 80 GB tersedia untuk presisi bf16.
Sematkan Input: Gunakan panggilan `encode(inputs, instruction=None)` untuk menghasilkan embedding untuk teks, gambar, atau video.
Ambil Informasi: Manfaatkan `retrieve(query, corpus, top_k=None, query_instruction=None, corpus_instruction=None)` untuk meranking korpus terhadap kueri.
Buat Keputusan: Gunakan `decide(state, questions, images=None, video=None)` untuk menjawab pertanyaan terstruktur tentang keadaan yang diberikan.
Kalibrasi Model: Untuk meningkatkan akurasi, gunakan `model.calibrate(answers, labels)` dengan dataset berlabel untuk menyesuaikan suhu.
Kasus Penggunaan MetaEncoder v1
- Pengambilan Informasi
- Pengelompokan Data
- Pencarian Semantik
- Sistem Penjawab Pertanyaan
- Pemahaman Konten
- Pemrosesan Data Multimodal
- Sistem Dukungan Keputusan







