Deskripsi
NVIDIA Nemotron 3.5 Super VL adalah model bahasa besar yang canggih yang dihosting di Hugging Face. Model ini dirancang untuk menangani berbagai input, termasuk teks, gambar, dan video, dan menghasilkan output terutama dalam format teks. Model ini dibangun di atas arsitektur hibrida Mamba-2–Transformer, yang menggabungkan encoder visi C-RADIO, memungkinkan pemrosesan data multimodal secara efisien.
Baca Selengkapnya
Dengan total 120 miliar parameter, di mana 12 miliar aktif, Nemotron 3.5 Super VL dirancang untuk kinerja tinggi dalam tugas yang memerlukan kustomisasi dan adaptasi domain. Model ini mendukung panjang konteks hingga 1 juta token, menjadikannya cocok untuk tugas pemrosesan data yang luas. Model ini beroperasi dengan presisi BF16, memastikan akurasi tinggi dalam outputnya.
Penerapan Nemotron 3.5 Super VL dapat dilakukan menggunakan konfigurasi perangkat keras 4× H100 atau 2× GB200, memberikan fleksibilitas berdasarkan sumber daya yang tersedia. Model ini mendukung decoding spekulatif dengan prediksi multi-token, meningkatkan efisiensinya dalam menghasilkan output.
Nemotron 3.5 Super VL sangat dianjurkan untuk tugas yang memerlukan evaluasi presisi penuh. Ini menawarkan mode penalaran yang dapat dikonfigurasi melalui template obrolan, memungkinkan pengguna untuk mengaktifkan atau menonaktifkan mode berpikir sesuai kebutuhan. Pengaturan sampling yang disarankan untuk teks mencakup suhu 1.0 dan top_p 0.95, sementara untuk tugas visi, suhu 0.6 dan top_p 0.95 disarankan.
Model ini dilisensikan di bawah OpenMDW-1.1, mempromosikan penggunaan dan kolaborasi sumber terbuka. Model ini telah diuji terhadap beberapa model lainnya, menunjukkan kinerja yang kompetitif di berbagai tugas, termasuk GPQA-Diamond, HLE, dan MMLU-ProX. Benchmark ini menyoroti kemampuannya dalam menangani penalaran kompleks dan tugas pemrosesan data.
Secara keseluruhan, NVIDIA Nemotron 3.5 Super VL adalah alat yang serbaguna bagi pengembang dan peneliti yang ingin memanfaatkan kemampuan AI canggih untuk pemrosesan dan analisis data multimodal.
- KategoriModel AI & LLM
- Penerapan4× H100 or 2× GB200
- PlatformWeb
Sorotan NVIDIA Nemotron 3.5 Super VL
Arsitektur hibrida Mamba-2–Transformer
Encoder visi C-RADIO
120 miliar parameter
Presisi BF16
Panjang konteks hingga 1 juta token
Decoding spekulatif dengan prediksi multi-token
Mode penalaran yang dapat dikonfigurasi
Lisensi OpenMDW-1.1
Memulai dengan NVIDIA Nemotron 3.5 Super VL
Akses halaman model: Kunjungi Hugging Face
Autentikasi: Masuk ke akun Anda
Konfigurasi: Siapkan perangkat keras dan parameter
Kirim prompt: Masukkan data teks, gambar, atau video
Sesuaikan: Atur pengaturan untuk tugas tertentu
Kasus Penggunaan NVIDIA Nemotron 3.5 Super VL
- Pemrosesan Teks
- Analisis Gambar
- Pemrosesan Video
- Adaptasi Domain
- Evaluasi Presisi Penuh
