Description
NVIDIA Nemotron 3.5 Super VL est un modèle de langage de grande taille sophistiqué hébergé sur Hugging Face. Il est conçu pour traiter une variété d'entrées, y compris le texte, les images et la vidéo, et produit principalement des sorties au format texte. Le modèle est construit sur une architecture hybride Mamba-2–Transformer, incorporant un encodeur de vision C-RADIO, ce qui lui permet de traiter efficacement des données multimodales.
Lire la suite
Avec un total de 120 milliards de paramètres, dont 12 milliards sont actifs, Nemotron 3.5 Super VL est conçu pour des performances élevées dans des tâches nécessitant personnalisation et adaptation au domaine. Il prend en charge une longueur de contexte allant jusqu'à 1 million de jetons, ce qui le rend adapté aux tâches de traitement de données étendues. Le modèle fonctionne avec une précision BF16, garantissant une grande exactitude dans ses sorties.
Le déploiement de Nemotron 3.5 Super VL peut être réalisé en utilisant soit des configurations matérielles 4× H100, soit 2× GB200, offrant ainsi une flexibilité en fonction des ressources disponibles. Le modèle prend en charge le décodage spéculatif avec prédiction multi-jetons, améliorant son efficacité dans la génération de sorties.
Nemotron 3.5 Super VL est particulièrement recommandé pour les tâches nécessitant une évaluation en pleine précision. Il offre des modes de raisonnement configurables via des modèles de chat, permettant aux utilisateurs d'activer ou de désactiver les modes de réflexion selon les besoins. Les paramètres d'échantillonnage recommandés pour le texte incluent une température de 1,0 et un top_p de 0,95, tandis que pour les tâches de vision, une température de 0,6 et un top_p de 0,95 sont suggérés.
Le modèle est sous licence OpenMDW-1.1, favorisant l'utilisation et la collaboration en open source. Il a été évalué par rapport à plusieurs autres modèles, démontrant des performances compétitives dans diverses tâches, y compris GPQA-Diamond, HLE et MMLU-ProX. Ces benchmarks mettent en évidence sa capacité à gérer des tâches complexes de raisonnement et de traitement de données.
Dans l'ensemble, NVIDIA Nemotron 3.5 Super VL est un outil polyvalent pour les développeurs et les chercheurs cherchant à tirer parti des capacités avancées de l'IA pour le traitement et l'analyse de données multimodales.
- CatégorieModèles d'IA et LLM
- Déploiement4× H100 or 2× GB200
- PlateformesWeb
Points forts de NVIDIA Nemotron 3.5 Super VL
Architecture hybride Mamba-2–Transformer
Encodeur de vision C-RADIO
120 milliards de paramètres
Précision BF16
Longueur de contexte jusqu'à 1 million de jetons
Décodage spéculatif avec prédiction multi-jetons
Modes de raisonnement configurables
Licence OpenMDW-1.1
Premiers pas avec NVIDIA Nemotron 3.5 Super VL
Accéder à la page du modèle : Visitez Hugging Face
S'authentifier : Connectez-vous à votre compte
Configurer : Configurez le matériel et les paramètres
Envoyer des invites : Saisissez des données texte, image ou vidéo
Ajuster : Modifiez les paramètres pour des tâches spécifiques
Cas d'utilisation de NVIDIA Nemotron 3.5 Super VL
- Traitement de texte
- Analyse d'images
- Traitement vidéo
- Adaptation au domaine
- Évaluation en pleine précision
