Deskripsi
Mistral Large 4, juga dikenal sebagai "Le Chonk," merupakan model paling maju dan mampu dari Mistral hingga saat ini. Ini adalah model Mixture-of-Experts natively multimodal dengan 1 triliun parameter, yang memiliki 49 miliar parameter aktif per token (52 miliar termasuk embedding dan lapisan output). Model ini dilatih dari awal pada 3.800 GPU NVIDIA Grace Blackwell di pusat data Mistral di Eropa, memastikan kinerja dan skalabilitas yang kuat.
Baca Selengkapnya
Model generalis ini menyatukan mengikuti instruksi, penalaran, pengkodean, dan alur kerja agensi ke dalam satu set bobot. Meskipun serbaguna di berbagai domain, Mistral Large 4 menunjukkan kinerja luar biasa di bidang khusus seperti keamanan siber, keuangan, dan hukum. Model ini juga melampaui model tertutup terdepan dalam kemampuan penguatan visual, menjadikannya sangat efektif untuk tugas yang melibatkan analisis gambar.
Salah satu kekuatan utama Mistral Large 4 adalah kefasihan nativnya dalam lebih dari 160 bahasa, mencakup semua bahasa resmi Uni Eropa. Dukungan bahasa yang luas ini menjadikannya alat yang kuat untuk aplikasi global. Model ini memiliki panjang konteks yang substansial, yaitu 1M, memungkinkan untuk menangani beban kerja konteks panjang dengan efisien. Kemampuan input multimodalnya memungkinkan untuk menerima input teks dan gambar, menghasilkan output teks.
Secara arsitektural, Mistral Large 4 menggunakan desain Mixture-of-Experts yang granular dengan 128 ahli yang diarahkan, di mana 4 ahli aktif per token, bersama dengan 1 ahli bersama. Model ini juga mencakup kepala draf decoding spekulatif DSpark yang tersemat, yang dapat secara signifikan mempercepat decoding tanpa mengubah output model target, menawarkan throughput hingga 1,9x lebih tinggi dalam skenario tertentu. Sebuah checkpoint NVFP4 yang terkuantisasi juga tersedia, memberikan jejak memori yang lebih kecil, inferensi yang lebih cepat, dan kinerja setara, khususnya menargetkan GPU Blackwell dan mendukung vLLM serta SGLang.
Mistral Large 4 dirilis di bawah Lisensi Open-Weight Ekosistem Mistral, lisensi MIT yang dimodifikasi yang mengizinkan penggunaan komersial dan non-komersial. Namun, menjalankan bisnis Model-as-a-Service dengan Mistral Large 4 memerlukan lisensi komersial terpisah dari Mistral. Model ini tersedia di Mistral API sebagai `mistral-large-4` dan dapat diterapkan serta disesuaikan menggunakan berbagai pustaka seperti vLLM, SGLang, Transformers, llama.cpp, Axolotl, Unsloth, dan TRL.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan Mistral Large 4
1 Triliun Total Parameter
52 Miliar Parameter Aktif per Token
Input Natively Multimodal (Teks dan Gambar)
Panjang Konteks 1 Juta
Dukungan Multibahasa (lebih dari 160 bahasa)
Mode Penalaran yang Dapat Dikonfigurasi (Rendah, Sedang, Tinggi)
Kemampuan Visual Lanjutan untuk Analisis Gambar
Kepatuhan yang Kuat terhadap Prompt Sistem
Panggilan Fungsi Nativ dan Output JSON
Penegakan Skema JSON yang Ketat
Kinerja Keamanan Siber Terkini
Kepala Draf Decoding Spekulatif DSpark yang Tersemat
Checkpoint NVFP4 yang Terkuantisasi Tersedia
Lisensi Open-Weight untuk Penggunaan Komersial dan Non-Komersial
Memulai dengan Mistral Large 4
Akses Model: Temukan Mistral Large 4 di Hugging Face atau melalui Mistral API.
Terapkan dengan vLLM: Gunakan gambar Docker vLLM resmi untuk inferensi siap produksi, mengonfigurasi parameter seperti `--tool-call-parser mistral` dan `--reasoning-parser mistral`.
Terapkan dengan SGLang: Manfaatkan gambar Docker SGLang resmi, mengaktifkan decoding spekulatif dengan `--speculative-algorithm DSPARK`.
Terapkan dengan Transformers: Instal Transformers dari main dan gunakan cuplikan inferensi Python yang disediakan untuk penerapan di beberapa GPU.
Sesuaikan Model: Gunakan pustaka seperti Axolotl, Unsloth, atau TRL untuk menyempurnakan Mistral Large 4.
Integrasikan dengan Mistral Vibe: Instal Mistral Vibe dan konfigurasikan untuk menggunakan Mistral Large 4 melalui Mistral API atau server vLLM lokal.
Konfigurasi Usaha Penalaran: Atur `reasoning_effort` ke 'rendah', 'sedang', atau 'tinggi' berdasarkan kompleksitas prompt.
Manfaatkan Prompt Sistem: Definisikan lingkungan dan kasus penggunaan yang jelas dengan prompt sistem untuk memanfaatkan alat secara efektif.
Kasus Penggunaan Mistral Large 4
- Alur Kerja Agensi yang Kompleks
- Analisis Keamanan Siber
- Pemodelan & Analisis Keuangan
- Pemrosesan Dokumen Hukum
- Komunikasi Multibahasa
- Pengambilan Informasi Konteks Panjang
- Analisis Gambar dan Grafik
- Generasi Kode & Debugging
- Mengikuti Instruksi & Automasi
- Chatbot & AI Percakapan
