説明
Inkling-Smallは、テキスト、画像、音声入力を処理し、テキスト出力を生成するために設計された汎用のマルチモーダルモデルです。英語や他の言語での使用に適しており、複数のコーディング言語をサポートしています。開発者はInkling-Smallを利用して、チャットボット、コーディングアシスタント、情報強化生成システムなどのAI駆動アプリケーションを構築できます。このモデルはオープンウェイトでリリースされており、研究、ファインチューニング、サードパーティ製品への統合が可能です。
続きを読む
モデルアーキテクチャは、スパースMixture-of-Expertsフィードフォワードバックボーンを持つ42層のデコーダー専用トランスフォーマーです。各トークンは256の専門家のうち6つにルーティングされ、すべてのトークンでアクティブな2つの共有専門家があります。ローカルおよびグローバルレイヤーを組み合わせたハイブリッドアテンションメカニズムを特徴としています。Inkling-Smallはネイティブにマルチモーダルであり、階層的パッチエンコーダーを介して画像をエンコードし、離散トークンエンコーディングを介して音声をエンコードし、すべてのモダリティが共有された隠れ空間に投影されます。
Inkling-Smallは、SGLang、vLLM、TokenSpeed、Unsloth、Huggingfaceなどのオープンソースライブラリを使用してローカルデプロイメントをサポートします。APIアクセスはサードパーティの推論プロバイダーを通じて利用可能です。モデルのトレーニングデータには、公開されているリポジトリ、サードパーティの取得、合成生成から取得した多様なコンテンツタイプが含まれています。
安全性評価が実施され、Inkling-Smallのテキスト、音声、画像入力における責任ある使用が確保されています。リスクを軽減するための対策が適用され、一般的なモデレーションツールをモデルの周囲にレイヤー化して安全性を向上させることができます。制限事項には、基盤モデルに共通する潜在的なバイアスや幻覚、長い会話におけるパフォーマンスの低下が含まれます。開発者は、高リスクのアプリケーションに対して人間の監視と追加の安全策を適用することが推奨されます。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド, セルフホスト
- プラットフォームWeb
Inkling-Smallのハイライト
マルチモーダルモデル
オープンウェイト
APIアクセス
ローカルデプロイメントサポート
42層トランスフォーマー
スパースMixture-of-Experts
階層的パッチエンコーダー
離散トークンエンコーディング
Inkling-Smallをはじめる
モデルページにアクセス: Hugging Faceを訪問
認証: アクセス資格情報を設定
設定: モデル設定を調整
プロンプトを送信: テキスト、画像、または音声を入力
ファインチューニング: モデル出力をカスタマイズ
Inkling-Smallの使用例
- チャットボット
- コーディングアシスタント
- マルチモーダルアプリケーション
- 指示に従う
- 研究
