Deskripsi
d1-2B adalah model keputusan yang sangat efisien yang dikembangkan oleh LiquidAI, tersedia di Hugging Face. Dibangun di atas arsitektur LFM3-VL-2B, model ini dirancang untuk memproses dan membuat keputusan berdasarkan input multimodal, termasuk teks, gambar, dan video. Karakteristik utama dari d1-2B adalah kemampuannya untuk mengembalikan jawaban yang terkalibrasi dalam satu kali proses maju, menghilangkan kebutuhan untuk menghasilkan token, yang berkontribusi pada kecepatan dan efisiensinya.
Baca Selengkapnya
Model ini menunjukkan kinerja terbaik di kelasnya di antara model d1 terbuka, memimpin rata-rata di lebih dari seratus tolok ukur keputusan. Meskipun lebih kecil dari d1-3B, model ini sering kali mengunggulinya, menunjukkan desain yang dioptimalkan. Selain tugas klasifikasi tradisional, d1-2B menawarkan kemampuan canggih seperti mengekstrak teks, angka, dan tanggal tertentu beserta rentangnya, secara tepat menentukan lokasi objek dalam gambar, dan memperkirakan kuantitas dengan interval yang ditentukan.
Kinerja adalah keuntungan signifikan, dengan d1-2B mencapai waktu keputusan 5,7 milidetik pada NVIDIA H100 dan 3,8 milidetik pada AMD MI325X. Pemrosesan cepat ini dipertahankan bahkan dengan beberapa pertanyaan tentang satu keadaan dalam satu panggilan. Keluarga LFM3, yang mencakup d1-2B, memiliki model dasar, teks, visi, audio, omni, dan keputusan. Sementara d1-2B menangani teks, gambar, dan video, saudaranya d1-Omni-2B memperluas kemampuan untuk mencakup audio.
Dengan 1,92 miliar parameter dan arsitektur backbone LFM3 yang terdiri dari 24 lapisan (13 konvolusi pendek berpintu, 5 perhatian jendela geser, 6 perhatian global), d1-2B mendukung panjang konteks 128K token dan kosakata 128.000 token. Model ini menerima input sebagai keadaan (teks atau JSON), gambar, atau video, bersama dengan sejumlah pertanyaan bernama, menghasilkan jawaban bertipe dengan probabilitas tanpa menghasilkan token. Ini mendukung berbagai bahasa, termasuk Inggris, Arab, Cina, Prancis, Jerman, Italia, Jepang, Korea, Portugis, Spanyol, Vietnam, Thai, Indonesia, Hindi, Rusia, dan Polandia.
d1-2B sangat serbaguna, cocok untuk berbagai langkah pipeline yang memerlukan keputusan, seperti pengalihan dan triase, moderasi konten, klasifikasi niat dan topik, ekstraksi data dari dokumen, penilaian dan peringkat ulang, serta inspeksi visual. Model ini secara eksplisit dicatat sebagai bukan model obrolan. Meskipun efektif untuk pertanyaan yang padat pengetahuan, keandalannya mungkin menurun setelah 64K token keadaan. Perkiraan dapat diandalkan untuk hitungan dan skor tetapi kurang untuk kuantitas bebas. Model ini berjalan di Transformers dengan kode modelnya sendiri, tidak memerlukan parameter sampling.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan d1-2B
Model Keputusan Multimodal (Teks, Gambar, Video)
2 Miliar Parameter
Proses Maju Tunggal untuk Jawaban Terkalibrasi
Tanpa Generasi Token
Kinerja Tolok Ukur Keputusan Terbaik di Kelasnya
Ekstraksi Teks, Angka, dan Tanggal
Lokasi Objek dalam Gambar
Estimasi Kuantitas dengan Interval
Kecepatan Keputusan dalam Milidetik (misalnya, 3,8 ms pada AMD MI325X)
Arsitektur Backbone LFM3
Panjang Konteks 128K Token
Kosakata 128.000 Token
Dukungan Multibahasa (15+ bahasa)
Dirancang untuk Pengalihan, Triase, Moderasi, Ekstraksi
Berjalan di Transformers dengan Kode Model Kustom
Memulai dengan d1-2B
Akses Halaman Model: Navigasikan ke halaman model LiquidAI/d1-2B di Hugging Face.
Jelajahi Berkas: Tinjau detail model, arsitektur, dan spesifikasi yang disediakan.
Konfigurasi Inferensi: Gunakan pustaka Transformers untuk menyiapkan model untuk inferensi.
Siapkan Input: Berikan keadaan (teks atau JSON), gambar, atau video, bersama dengan pertanyaan bernama.
Eksekusi Panggilan: Gunakan `system_one` untuk permintaan tunggal atau `system_one_batch` untuk permintaan terkelompok.
Interpretasikan Output: Terima jawaban bertipe dengan probabilitas, tanpa token yang dihasilkan.
Kasus Penggunaan d1-2B
- Pengalihan dan Triase
- Moderasi dan Pengaman
- Klasifikasi Niat
- Klasifikasi Topik
- Ekstraksi dari Dokumen
- Penilaian dan Peringkat Ulang
- Inspeksi Visual
- Pengambilan Keputusan Multimodal
