Deskripsi
Laguna M.1 adalah model Mixture-of-Experts (MoE) yang canggih yang dikembangkan untuk pengkodean agentic dan tugas jangka panjang. Dengan total 225 miliar parameter dan 23 miliar parameter yang diaktifkan per token, model ini dirancang untuk menangani tugas komputasi kompleks dengan efisien. Model ini terdiri dari 70 lapisan, termasuk 67 lapisan MoE jarang dengan 256 ahli, dan memanfaatkan mekanisme routing ahli berkapasitas tinggi. Desain ini memungkinkan routing top-k=16 dan penyeimbangan beban tanpa kehilangan tambahan, meningkatkan efisiensi komputasinya.
Baca Selengkapnya
Model ini menggunakan arsitektur perhatian global di seluruh lapisan, dengan 64 kepala Q dan 8 kepala KV, serta pengaturan output perhatian softplus. Pengaturan ini mendukung kemampuan penalaran asli, memungkinkan pemikiran yang saling terkait antara panggilan alat, yang dapat diaktifkan atau dinonaktifkan per permintaan. Laguna M.1 menunjukkan kinerja yang kuat pada beberapa tolok ukur, termasuk SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, dan Terminal-Bench 2.0, menjadikannya kompetitif dengan model-model terkini.
Laguna M.1 dilisensikan di bawah Lisensi Apache 2.0, yang memungkinkan penggunaan dan modifikasi gratis untuk tujuan komersial dan non-komersial. Model ini didukung oleh berbagai platform, termasuk vLLM, SGLang, Transformers, dan TRT-LLM, berkat kolaborasi dengan NVIDIA. Model ini dirancang untuk rekayasa perangkat lunak dan kasus penggunaan pengkodean agentic, dengan fokus pada pelestarian penalaran dalam riwayat pesan untuk mengoptimalkan kinerja.
Pengguna dapat menerapkan Laguna M.1 secara lokal menggunakan vLLM atau SGLang, dengan dukungan untuk pemanggilan alat, respons streaming, dan penguraian penalaran. Model ini juga tersedia dalam format terkuantisasi, seperti FP8 dan NVFP4, untuk memenuhi berbagai kebutuhan penerapan. Bagi mereka yang tertarik untuk menjelajahi kemampuannya, Laguna M.1 dapat diakses melalui platform seperti vLLM dan SGLang, dengan panduan penerapan terperinci yang tersedia dalam dokumentasi masing-masing.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud, Di-host sendiri
- PlatformWeb, macOS, Linux
Sorotan Laguna M.1
225B total parameter
23B parameter yang diaktifkan per token
Transformer MoE 70-lapisan
256 ahli dengan routing top-k=16
Arsitektur perhatian global
Dukungan penalaran asli
Lisensi Apache 2.0
Kinerja tolok ukur yang kuat
Memulai dengan Laguna M.1
Akses halaman model: Kunjungi halaman Hugging Face untuk Laguna M.1
Autentikasi: Dapatkan kunci API untuk akses
Konfigurasi: Siapkan model dengan parameter yang diinginkan
Kirim prompt: Gunakan model untuk tugas teks-ke-teks
Fine-tune: Sesuaikan model untuk kasus penggunaan tertentu
Kasus Penggunaan Laguna M.1
- Pengkodean Agentic
- Tugas Jangka Panjang
- Pengujian Tolok Ukur
- Integrasi Alat
- Riset dan Pengembangan
