Descripción
NVIDIA Nemotron 3.5 Super VL es un sofisticado modelo de lenguaje grande alojado en Hugging Face. Está diseñado para manejar una variedad de entradas, incluyendo texto, imágenes y video, y produce principalmente en formato de texto. El modelo se basa en una arquitectura híbrida Mamba-2–Transformer, incorporando un codificador de visión C-RADIO, lo que le permite procesar datos multimodales de manera eficiente.
Leer más
Con un total de 120 mil millones de parámetros, de los cuales 12 mil millones están activos, Nemotron 3.5 Super VL está diseñado para un alto rendimiento en tareas que requieren personalización y adaptación de dominio. Soporta una longitud de contexto de hasta 1 millón de tokens, lo que lo hace adecuado para tareas de procesamiento de datos extensos. El modelo opera con precisión BF16, asegurando alta exactitud en sus salidas.
El despliegue de Nemotron 3.5 Super VL se puede lograr utilizando configuraciones de hardware de 4× H100 o 2× GB200, lo que permite flexibilidad según los recursos disponibles. El modelo soporta decodificación especulativa con predicción nativa de múltiples tokens, mejorando su eficiencia en la generación de salidas.
Nemotron 3.5 Super VL es particularmente recomendado para tareas que requieren evaluación de precisión completa. Ofrece modos de razonamiento configurables a través de plantillas de chat, permitiendo a los usuarios habilitar o deshabilitar modos de pensamiento según sea necesario. Las configuraciones de muestreo recomendadas para texto incluyen una temperatura de 1.0 y top_p de 0.95, mientras que para tareas de visión, se sugiere una temperatura de 0.6 y top_p de 0.95.
El modelo está licenciado bajo OpenMDW-1.1, promoviendo el uso y la colaboración de código abierto. Ha sido evaluado en comparación con varios otros modelos, demostrando un rendimiento competitivo en diversas tareas, incluyendo GPQA-Diamond, HLE y MMLU-ProX. Estos benchmarks destacan su capacidad para manejar razonamientos complejos y tareas de procesamiento de datos.
En general, NVIDIA Nemotron 3.5 Super VL es una herramienta versátil para desarrolladores e investigadores que buscan aprovechar capacidades avanzadas de IA para el procesamiento y análisis de datos multimodales.
- CategoríaModelos de IA y LLM
- Implementación4× H100 or 2× GB200
- PlataformasWeb
Aspectos destacados de NVIDIA Nemotron 3.5 Super VL
Arquitectura híbrida Mamba-2–Transformer
Codificador de visión C-RADIO
120 mil millones de parámetros
Precisión BF16
Longitud de contexto de hasta 1 millón de tokens
Decodificación especulativa con predicción de múltiples tokens
Modos de razonamiento configurables
Licencia OpenMDW-1.1
Primeros pasos con NVIDIA Nemotron 3.5 Super VL
Acceder a la página del modelo: Visitar Hugging Face
Autenticarse: Iniciar sesión en su cuenta
Configurar: Configurar hardware y parámetros
Enviar solicitudes: Ingresar datos de texto, imagen o video
Ajustar: Modificar configuraciones para tareas específicas
Casos de uso de NVIDIA Nemotron 3.5 Super VL
- Procesamiento de Texto
- Análisis de Imágenes
- Procesamiento de Video
- Adaptación de Dominio
- Evaluación de Precisión Completa
