説明
Shieldstralは、複数のモダリティにわたる柔軟なコンテンツモデレーションを提供するために設計された高度な安全分類器です。コンパクトな3Bパラメータモデルを使用し、自然言語で表現されたさまざまな安全ポリシーに適応し、固定されたモデレーションカテゴリの代わりに連続的な安全スコアを提供します。これにより、エッジやリソースの限られたデバイスでのリアルタイムモデレーションアプリケーションに最適なソリューションとなります。
続きを読む
Ministral-3-3B-Base-2512フレームワークに基づいて構築されたShieldstralは、ネイティブのPixtralビジョンエンコーダーを組み込んでおり、テキストのみ、画像のみ、テキスト+画像のコンテンツをシームレスに処理できます。単一のフォワードパスから判定を生成し、さまざまなモデレーションタスクに対して効率的かつ効果的です。
Shieldstralの主な機能には、推論時に自由形式の自然言語クエリとして提供されるモデレーション基準を持つポリシー適応型の特性があります。これにより、再トレーニングなしで新しい安全ポリシーを処理できる単一のチェックポイントが可能です。さらに、そのマルチモーダル機能により、共有インターフェースを通じて異なるタイプのコンテンツをモデレートできます。
Shieldstralは多言語対応で、英語、フランス語、スペイン語、ドイツ語、イタリア語、ポルトガル語、オランダ語、中国語、日本語、韓国語、アラビア語、ロシア語などの言語をサポートしています。Apache 2.0ライセンスの下でライセンスされており、商業利用と非商業利用の両方が可能です。
このモデルは、ユーザープロンプトのモデレーション、モデル応答のモデレーション、モデル拒否の分類などのアプリケーションに特に適しています。そのコンパクトなサイズにより、単一のGPUで実行でき、さまざまなデプロイメントシナリオでのアクセスが容易です。
その能力にもかかわらず、ユーザーは言語やドメインにおける不均一なカバレッジ、残留ラベルノイズ、敵対的または難読化された入力に対する信頼性の低下など、特定の制限に注意する必要があります。しかし、そのオープンソースの性質と適応性により、コンテンツモデレーションのニーズにとって貴重なツールとなります。
- カテゴリーAIコンテンツモデレーション
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
Shieldstralのハイライト
ポリシー適応型モデレーション
マルチモーダルコンテンツサポート
単一トークン出力
コンパクトな3Bパラメータモデル
多言語サポート
Apache 2.0ライセンス
リアルタイムモデレーション
再トレーニング不要
Shieldstralをはじめる
モデルにアクセス: Hugging Faceからモデルを取得
認証: 必要な認証を設定
環境を設定: デプロイメントのためにシステムを準備
API経由で統合: モデルをアプリケーションに接続
最適化: 最良のパフォーマンスのために設定を調整
Shieldstralの使用例
- ユーザープロンプトのモデレーション
- モデル応答のモデレーション
- モデル拒否の分類
- マルチモーダルコンテンツモデレーション
- リアルタイムモデレーション
