説明
NVIDIA Nemotron 3.5 Lightning 30B A3B BF16は、NVIDIAによって開発された高度な大規模言語モデルです。MoE、Mamba-2、および注意メカニズムを組み合わせたハイブリッドアーキテクチャを特徴とし、合計300億のパラメータのうち30億がアクティブです。このモデルはBF16精度で動作し、タスク処理において高い精度を確保します。単一のH100 GPUで展開する際には、最大100万トークンのコンテキスト長をサポートし、大規模なデータ入力の処理に適しています。
続きを読む
このモデルは非常にカスタマイズ可能であり、監視付きファインチューニング、強化学習、蒸留などのトレーニング後の技術をサポートしています。この柔軟性により、ユーザーは特定のドメインにモデルを適応させ、量子化されたバリアントを作成し、フル精度での研究と評価を行うことができます。NVIDIA Nemotron 3.5 Lightning 30B A3B BF16は、広範な推論や複雑なデータ処理を必要とするタスクに特に適しています。
このモデルは、英語、スペイン語、フランス語、ドイツ語、イタリア語、日本語を含む複数の言語と、さまざまなコーディング言語をサポートしています。NVIDIAのハードウェア、特にBlackwell、Hopper、AmpereシリーズのGPUに最適化されています。また、特定のユースケースにおける効率を高めるために、低同時実行データセンター展開向けの推測デコーディング機能も含まれています。
OpenMDWライセンス契約バージョン1.1の下でリリースされたNVIDIA Nemotron 3.5 Lightning 30B A3B BF16は、グローバルな展開が可能です。カスタマイズ、ドメイン適応、高精度の研究を活用したい組織に最適です。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
NVIDIA Nemotron 3.5 Lightning 30B A3B BF16のハイライト
300億のパラメータ
BF16精度
MoE、Mamba-2、および注意のハイブリッドアーキテクチャ
最大100万トークンをサポート
トレーニング後のカスタマイズ可能
複数の言語をサポート
NVIDIAハードウェアに最適化
推測デコーディング機能
NVIDIA Nemotron 3.5 Lightning 30B A3B BF16をはじめる
モデルページにアクセス: Hugging Faceのモデルページを訪問
認証: Hugging Faceアカウントにログイン
設定: 希望のパラメータでモデルを設定
プロンプトを送信: 処理するデータを入力
ファインチューニング: 特定のタスクにモデルをカスタマイズ
NVIDIA Nemotron 3.5 Lightning 30B A3B BF16の使用例
- ドメイン適応
- 研究と評価
- カスタマイズ
- 多言語サポート
- 推測デコーディング







