描述
NVIDIA Nemotron 3.5 Super VL 是一款复杂的大型语言模型，托管在 Hugging Face 上。它旨在处理多种输入，包括文本、图像和视频，主要以文本格式输出。该模型基于 Mamba-2–Transformer 混合架构构建，结合了 C-RADIO 视觉编码器，使其能够高效处理多模态数据。
阅读更多
Nemotron 3.5 Super VL 拥有 1200 亿个参数，其中 120 亿个为活跃参数，专为需要定制和领域适应的任务而设计，具有高性能。它支持最长达 100 万个标记的上下文长度，适合广泛的数据处理任务。该模型以 BF16 精度运行，确保输出的高准确性。
Nemotron 3.5 Super VL 的部署可以使用 4× H100 或 2× GB200 硬件配置，允许根据可用资源灵活选择。该模型支持具有本地多标记预测的推测解码，提高了生成输出的效率。
Nemotron 3.5 Super VL 特别推荐用于需要全精度评估的任务。它通过聊天模板提供可配置的推理模式，允许用户根据需要启用或禁用思维模式。文本的推荐采样设置包括温度 1.0 和 top_p 0.95，而对于视觉任务，建议温度为 0.6 和 top_p 0.95。
该模型根据 OpenMDW-1.1 许可证进行授权，促进开源使用和协作。它已与其他多个模型进行了基准测试，展示了在 GPQA-Diamond、HLE 和 MMLU-ProX 等各种任务中的竞争性能。这些基准测试突显了其处理复杂推理和数据处理任务的能力。
总体而言，NVIDIA Nemotron 3.5 Super VL 是开发人员和研究人员希望利用先进 AI 能力进行多模态数据处理和分析的多功能工具。
- 类别AI 模型与大语言模型
- 部署4× H100 or 2× GB200
- 平台网页版
NVIDIA Nemotron 3.5 Super VL亮点
Mamba-2–Transformer 混合架构
C-RADIO 视觉编码器
1200 亿个参数
BF16 精度
上下文长度最长可达 100 万个标记
具有多标记预测的推测解码
可配置的推理模式
OpenMDW-1.1 许可证
NVIDIA Nemotron 3.5 Super VL入门
访问模型页面：访问 Hugging Face
身份验证：登录您的账户
配置：设置硬件和参数
发送提示：输入文本、图像或视频数据
微调：根据特定任务调整设置
NVIDIA Nemotron 3.5 Super VL的使用案例
- 文本处理
- 图像分析
- 视频处理
- 领域适应
- 全精度评估
