説明
グラナイトスイッチ 4.1 8Bは、モジュラーアプローチを通じてさまざまなタスクを処理するために設計された高度な大規模言語モデルです。ベースモデルと複数のアダプター、エンコーダーを組み合わせることで、自然言語処理、意思決定、音声からテキストへの機能をシームレスに切り替えることができます。このモデルは、チャットテンプレート内に埋め込まれた制御トークンを使用して、アダプターをオンデマンドでアクティブ化できる能力が特に注目されます。
続きを読む
ベースモデルであるibm-granite/granite-4.1-8bは、80億のパラメータと128Kトークンのコンテキスト長を特徴としています。英語、ドイツ語、スペイン語、フランス語、日本語など、複数の言語をサポートしています。モデルのアーキテクチャは、GQA、RoPE、SwiGLU、RMSNormなどの高度な技術を取り入れた密なデコーダー専用トランスフォーマーです。
グラナイトスイッチ 4.1 8Bには、一般的な意思決定機能を提供する意思決定aLoRAアダプターと、危害、冒涜、社会的偏見などの安全リスクを検出するguardian-core aLoRAアダプターの2つの主要なアダプターが含まれています。さらに、モデルは、迅速な転写タスクに最適化されたグラナイトスピーチ5.0 TurboCTCエンコーダーを介して埋め込まれた音声からテキストへの機能を備えています。
このモデルは、チャット、意思決定、音声転写を別々のサーバーなしでサポートする単一のホストエンドポイントを持ち、柔軟性と効率性を考慮して設計されています。Apache 2.0の下でライセンスされており、オープンアクセスと改変権を保証します。HuggingFace TransformersおよびvLLMバックエンドと互換性があり、幅広いアプリケーションにアクセス可能です。
グラナイトスイッチ 4.1 8Bは、異なるドメインで複雑なタスクを処理できる多用途のLLMを求める開発者や研究者に最適です。そのモジュラー設計とオープンソースの特性は、AI研究とアプリケーションの進展に貴重なツールとなります。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
グラナイトスイッチ 4.1 8Bのハイライト
モジュラーLLMアーキテクチャ
80億のパラメータを持つベースモデル
複数の言語をサポート
意思決定アダプター
安全検出アダプター
埋め込まれた音声からテキストへのエンコーダー
制御トークンによるアクティベーション
Apache 2.0ライセンス
グラナイトスイッチ 4.1 8Bをはじめる
モデルページにアクセス: Hugging Faceモデルページを訪問
認証: アクセス資格情報を確認
設定: 希望するアダプターでモデルを設定
プロンプトを送信: チャットテンプレートを使用して対話
ファインチューニング: 必要に応じてモデルパラメータを調整
グラナイトスイッチ 4.1 8Bの使用例
- 多言語チャット
- 意思決定支援
- 音声転写
- 安全監視
- AI研究















