Deskripsi
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 adalah model bahasa besar yang dikembangkan oleh NVIDIA, memanfaatkan arsitektur normalized-GPT yang dilatensikan (latent-recurrent) dan berulang. Model ini dirancang untuk menangani tugas penalaran umum sambil mempertahankan jejak komputasi yang kecil. Ini memiliki perhatian sliding-window yang saling terkait (SWA) dan lapisan perhatian penuh, memungkinkan pemrosesan hingga 256K token dalam panjang konteks.
Baca Selengkapnya
Model ini dibangun dengan 4 miliar parameter dan menggunakan presisi BF16, menjadikannya cocok untuk aplikasi komersial dan non-komersial. Ini mendukung pemrosesan bahasa Inggris dan paling cocok untuk tugas yang memerlukan kemampuan penalaran umum. Arsitektur model memungkinkan komputasi inferensi elastis, memungkinkan pengguna untuk menyesuaikan jumlah loop untuk menyeimbangkan antara efisiensi komputasi dan akurasi tanpa perlu pelatihan ulang.
Dory1.0-4B-BF16 dilatih sebelumnya menggunakan format NVFP4 dari NVIDIA sebelum melanjutkan dalam BF16, memastikan kinerja tinggi pada sistem yang dipercepat GPU NVIDIA. Ini tersedia dalam berbagai format, termasuk BF16, MXFP8, NVFP4, dan Q5_K_M, memberikan fleksibilitas dalam penerapan di berbagai konfigurasi perangkat keras.
Pelatihan model melibatkan 6 triliun token, dengan fokus pada domain yang beragam seperti matematika, sains, dan pengetahuan umum. Model ini menjalani fine-tuning yang diawasi dan pembelajaran penguatan untuk meningkatkan kinerjanya dalam penggunaan alat multi-langkah, mengikuti instruksi, dan lingkungan keluaran terstruktur. Tolok ukur model menunjukkan kinerja yang kompetitif di berbagai tugas, termasuk pengkodean, penalaran, dan mengikuti instruksi.
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 diatur oleh Perjanjian Lisensi OpenMDW, versi 1.1, dan dirilis pada 16 Oktober 2026. Ini dirancang untuk berjalan secara optimal pada arsitektur Hopper dan Blackwell dari NVIDIA, dengan dukungan untuk sistem operasi Linux.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformLinux
Sorotan NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
Arsitektur latent-recurrent yang berulang
Perhatian sliding-window yang saling terkait
Panjang konteks 256K token
Presisi BF16
Komputasi inferensi elastis
Pelatihan awal NVFP4 asli
Pengulangan yang efisien dalam memori
Perjanjian Lisensi OpenMDW
Memulai dengan NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
Akses halaman model: Kunjungi halaman model Hugging Face untuk NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16.
Autentikasi: Pastikan Anda memiliki kredensial yang diperlukan untuk mengakses model.
Konfigurasi: Siapkan parameter model, termasuk jumlah loop dan pengaturan cache KV.
Kirim prompt: Masukkan urutan teks ke model untuk diproses.
Fine-tune: Sesuaikan pengaturan model untuk tugas tertentu jika diperlukan.
Kasus Penggunaan NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
- Penalaran Umum
- Tugas Pengkodean
- Mengikuti Instruksi
- Pemrosesan Konteks Panjang
- Penelitian Ilmiah
