Deskripsi
LongCat-2.5 merupakan kemajuan signifikan dalam AI multimodal, dibangun di atas pendahulunya, LongCat-2.0. Model ini dirancang untuk menangani tugas agentic yang rumit dan multi-langkah dengan menggabungkan pemahaman visual yang kuat dengan pengkodean agentic yang canggih. Model ini memiliki total 1,6 triliun parameter, dengan sekitar 48 miliar parameter yang diaktifkan per token, menjadikannya alat yang kuat untuk aplikasi yang menuntut.
Baca Selengkapnya
Kemampuan inti model ini didukung oleh beberapa inovasi kunci. Pemodelan Visual Asli memungkinkan LongCat-2.5 untuk mengubah fitur visual resolusi asli menjadi token diskrit, menyelaraskannya dengan teks dalam ruang semantik bersama. Ini memungkinkan pemahaman yang lebih dalam dan terintegrasi dari input multimodal. Untuk tugas jangka panjang, model ini menggunakan Pembelajaran Penguatan Agentic (RL), dilatih pada skenario rekayasa dunia nyata dan kegagalan agent yang dapat direproduksi. Metodologi pelatihan ini, dikombinasikan dengan strategi rollout yang efisien dan perlindungan terhadap peretasan penghargaan, meningkatkan keandalannya dalam melaksanakan tugas end-to-end.
Pembelajaran Multi-Guru adalah aspek penting lainnya, di mana guru khusus untuk agent, penalaran, dan interaksi membimbing model melalui distilasi KL kosakata penuh dan Tree Attention. Proses ini memperkuat kemampuannya untuk melakukan eksekusi multi-langkah, penalaran kompleks, dan mengikuti instruksi dengan tepat, sambil juga meningkatkan keselamatan. Selain itu, LongCat-2.5 menggabungkan Pelatihan Konteks Panjang yang Efisien, memanfaatkan paralelisme yang sadar supernode, pembagian yang efisien, dan tumpang tindih komunikasi–komputasi. Optimisasi ini menghasilkan throughput per perangkat yang jauh lebih tinggi dibandingkan dengan baseline tradisional dalam tugas SFT urutan panjang.
Penerapan LongCat-2.5 didukung di platform NPU, dengan panduan spesifik tersedia untuk penerapan NPU melalui SGLang-FluentLLM. Model ini juga memiliki kuantisasi W4A4 untuk bobot dan aktivasi ahli, memungkinkan komputasi INT4 asli pada akselerator AI domestik sambil mempertahankan akurasi. Kuantisasi ini, bersama dengan tata letak bobot yang dioptimalkan dan saluran prefill/decode yang disetel, menghasilkan peningkatan substansial dalam throughput dan pengurangan latensi. LongCat-2.5 menawarkan mode berpikir dan mode non-berpikir, memungkinkan pengguna menyeimbangkan kinerja dengan efisiensi token. Model ini dirilis di bawah Lisensi MIT, menjadikannya dapat diakses untuk berbagai pengembang dan aplikasi.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan LongCat-2.5
Model MoE Multimodal Asli
1,6 Triliun Total Parameter
48 Miliar Parameter Diaktifkan Per Token
Integrasi Pemahaman Visual
Kemampuan Pengkodean Agentic
Pelatihan RL Agentic Jangka Panjang
Pembelajaran Multi-Guru untuk Penalaran dan Mengikuti Instruksi
Pelatihan Konteks Panjang yang Efisien
Infrastruktur RL dengan Optimisasi Cache KV
Kuantisasi W4A4 untuk Bobot dan Aktivasi Ahli
Dukungan Penerapan Platform NPU
Mode Berpikir untuk Kinerja yang Ditingkatkan
Mode Non-Berpikir untuk Efisiensi Token
Lisensi MIT untuk Bobot Model
Evaluasi di Berbagai Tugas Pengkodean, Agent Umum, dan Visual
Memulai dengan LongCat-2.5
Akses Model: Navigasikan ke halaman LongCat-2.5 di Hugging Face.
Jelajahi Berkas: Tinjau berkas dan dokumentasi model untuk detail teknis.
Terapkan di NPU: Rujuk ke SGLang-FluentLLM untuk instruksi penerapan di platform NPU.
Konfigurasi Mode: Pilih antara mode berpikir (enable_thinking=True) untuk kinerja atau mode non-berpikir (enable_thinking=False) untuk efisiensi token.
Kirim Prompt: Interaksi dengan model melalui situs web obrolan resmi (longcat.ai) atau melalui akses programatik.
Evaluasi Kinerja: Gunakan pengaturan evaluasi seperti suhu dan top_p untuk tugas tertentu.
Kasus Penggunaan LongCat-2.5
- Pengembangan Basis Kode yang Kompleks
- Pembangunan Proyek Penuh
- Tugas Desain Kreatif
- Eksekusi Tugas 3D
- Tugas Agentic Multimodal
- Benchmarking Agent Kode
- Benchmarking Agent Umum
- Benchmarking Tugas Visual
