Deskripsi
Flint adalah model bahasa campuran-para ahli yang canggih yang dikembangkan oleh Recursive, khusus dirancang untuk agen pengkodean. Dengan total 39,8 miliar parameter dan sekitar 2,5 miliar parameter aktif per token, Flint dirancang untuk melakukan berbagai tugas termasuk menyelidiki basis kode, memperbaiki bug, menerapkan fitur, dan menulis tes. Model ini mendukung input dan output teks, penalaran, dan penggunaan alat multi-langkah, menjadikannya alat yang serbaguna bagi pengembang.
Baca Selengkapnya
Dalam hal kinerja, Flint mencetak 54,9% pada Terminal-Bench 2.1, 89,7% pada SWE-bench Pro v2, dan 74,2% pada SWE-bench Verified. Skor ini mencerminkan kemampuannya dalam menangani tugas pengkodean yang kompleks. Model ini dibangun di atas arsitektur Transformer campuran-para ahli yang hanya menggunakan dekoder, dengan 49 lapisan, 35 lapisan jendela geser, dan 14 lapisan perhatian penuh. Model ini menggunakan jendela geser 513 token dan memanfaatkan 32 kepala kueri dan 4 kepala kunci/nilai untuk perhatian.
Flint tersedia sebagai model sumber terbuka di bawah lisensi Apache 2.0, dengan checkpoint BF16, konfigurasi model, tokenizer, template obrolan, dan kit layanan SGLang yang disertakan dalam repositori. Varian terkuantisasi tersedia untuk runtime NVIDIA dan Apple Silicon. Pelatihan model ini melibatkan pra-pelatihan, pelatihan tengah, fine-tuning yang diawasi, dan pembelajaran penguatan, mencakup teks dan kode, mengikuti instruksi, dan tugas agen.
Meskipun memiliki kemampuan, Flint memiliki keterbatasan. Model ini dapat menghasilkan konten yang salah atau berbahaya, kode yang cacat, atau panggilan alat yang tidak tepat. Pengguna disarankan untuk menguji kode yang dihasilkan dan meninjau perubahan sebelum implementasi. Kinerja model dapat bervariasi berdasarkan presisi checkpoint dan waktu inferensi, dan tugas penalaran yang panjang dapat meningkatkan latensi. Untuk dukungan, pengguna dapat menghubungi Recursive dengan rincian spesifik tentang pengaturan mereka.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan Flint
Model bahasa campuran-para ahli
39,8 miliar total parameter
2,5 miliar parameter aktif per token
Mendukung input dan output teks
Penalaran dan penggunaan alat multi-langkah
Sumber terbuka di bawah lisensi Apache 2.0
Varian terkuantisasi untuk NVIDIA dan Apple Silicon
Fine-tuning yang diawasi dan pembelajaran penguatan
Memulai dengan Flint
Akses halaman model: Kunjungi repositori Flint di Hugging Face
Autentikasi: Pastikan Anda memiliki kredensial yang diperlukan
Konfigurasi: Siapkan model menggunakan file konfigurasi yang disediakan
Kirim prompt: Gunakan template obrolan untuk berinteraksi dengan model
Fine-tune: Sesuaikan pengaturan model untuk tugas tertentu
Kasus Penggunaan Flint
- Investigasi Basis Kode
- Perbaikan Bug
- Implementasi Fitur
- Penulisan Tes
- Penggunaan Alat Multi-Langkah
