Descrição
NVIDIA Nemotron 3.5 Super VL é um sofisticado modelo de linguagem grande hospedado no Hugging Face. Ele é projetado para lidar com uma variedade de entradas, incluindo texto, imagens e vídeo, e produz principalmente saídas em formato de texto. O modelo é construído sobre uma arquitetura híbrida Mamba-2–Transformer, incorporando um codificador de visão C-RADIO, que permite processar dados multimodais de forma eficiente.
Ler mais
Com um total de 120 bilhões de parâmetros, dos quais 12 bilhões estão ativos, o Nemotron 3.5 Super VL é projetado para alto desempenho em tarefas que exigem personalização e adaptação de domínio. Ele suporta um comprimento de contexto de até 1 milhão de tokens, tornando-o adequado para tarefas extensas de processamento de dados. O modelo opera com precisão BF16, garantindo alta precisão em suas saídas.
A implantação do Nemotron 3.5 Super VL pode ser realizada usando configurações de hardware de 4× H100 ou 2× GB200, permitindo flexibilidade com base nos recursos disponíveis. O modelo suporta decodificação especulativa com previsão nativa de múltiplos tokens, aumentando sua eficiência na geração de saídas.
O Nemotron 3.5 Super VL é particularmente recomendado para tarefas que exigem avaliação em precisão total. Ele oferece modos de raciocínio configuráveis por meio de modelos de chat, permitindo que os usuários ativem ou desativem modos de pensamento conforme necessário. As configurações de amostragem recomendadas para texto incluem uma temperatura de 1,0 e top_p de 0,95, enquanto para tarefas de visão, uma temperatura de 0,6 e top_p de 0,95 são sugeridas.
O modelo é licenciado sob OpenMDW-1.1, promovendo o uso e a colaboração de código aberto. Ele foi avaliado em comparação com vários outros modelos, demonstrando desempenho competitivo em várias tarefas, incluindo GPQA-Diamond, HLE e MMLU-ProX. Esses benchmarks destacam sua capacidade de lidar com raciocínio complexo e tarefas de processamento de dados.
No geral, o NVIDIA Nemotron 3.5 Super VL é uma ferramenta versátil para desenvolvedores e pesquisadores que buscam aproveitar capacidades avançadas de IA para processamento e análise de dados multimodais.
- CategoriaModelos de IA e LLMs
- Implantação4× H100 or 2× GB200
- PlataformasWeb
Destaques de NVIDIA Nemotron 3.5 Super VL
Arquitetura híbrida Mamba-2–Transformer
Codificador de visão C-RADIO
120 bilhões de parâmetros
Precisão BF16
Comprimento de contexto de até 1 milhão de tokens
Decodificação especulativa com previsão de múltiplos tokens
Modos de raciocínio configuráveis
Licença OpenMDW-1.1
Primeiros passos com NVIDIA Nemotron 3.5 Super VL
Acesse a página do modelo: Visite o Hugging Face
Autentique-se: Faça login na sua conta
Configure: Configure hardware e parâmetros
Envie prompts: Insira dados de texto, imagem ou vídeo
Ajuste: Ajuste as configurações para tarefas específicas
Casos de uso de NVIDIA Nemotron 3.5 Super VL
- Processamento de Texto
- Análise de Imagem
- Processamento de Vídeo
- Adaptação de Domínio
- Avaliação em Precisão Total
