説明
GLiDEはFastinoによって開発された意思決定モデルで、テキスト、JSON、または画像の形式で入力データを処理し、意思決定タスクのための確率に基づく結果を提供します。このモデルは特に分類、ルーティング、スコアリングアプリケーションに役立ちます。ユーザーはFastinoがホストするAPIを介してGLiDEにアクセスでき、認証にはAPIキーが必要です。このモデルは選択、ノール(はい/いいえ)、スコアなどのさまざまな意思決定タイプをサポートし、質問ごとに最大255のオプションを処理できます。
続きを読む
GLiDEは長いコンテキストで効率的に動作するように設計されており、質問プロンプトごとに最大40,000トークンをサポートします。Python APIとSystem One形式で通信するHTTPサーバーを使用して動作します。モデルのハードウェア要件には、少なくとも80 GBのメモリを持つGPUが含まれ、NVIDIA RTX PRO 6000、B200、H100 GPUでテストされています。
モデルの重みはディスク上で52.2 GBを占め、39kトークンの質問に対してピークGPUメモリ使用量は60.2 GBです。GLiDEはパフォーマンスを最適化しており、より高速な処理のためにフラッシュ線形注意機能を備えています。決定論的であり、類似のリクエストに対して一貫した結果を保証します。
GLiDEの制限には、質問ごとに最大255のオプションと、質問プロンプトごとの40,000トークンの制限が含まれます。テキストや説明を生成せず、提供されたオプションに基づいて意思決定にのみ焦点を当てています。このモデルはFastino Community Licenseの下でライセンスされており、Qwenや他のサードパーティコンポーネントからの貢献があります。
- カテゴリーAIモデルとLLM
- デプロイクラウド
- プラットフォームWeb
GLiDEのハイライト
分類のための意思決定モデル
テキスト、JSON、画像をサポート
Fastino経由のAPIアクセス
質問ごとに最大255のオプションを処理
質問プロンプトごとに40,000トークン
Python APIとHTTPサーバー
決定論的な結果
80 GBメモリを必要とするGPU
GLiDEをはじめる
モデルページにアクセス: Hugging FaceのGLiDEページを訪問
認証: FastinoからAPIキーを取得
設定: 必要なパラメータでAPIを設定
プロンプトを送信: APIを使用して意思決定リクエストを送信
GLiDEの使用例
- 分類タスク
- ルーティング決定
- スコアリングアプリケーション
- マルチモーダル処理
- 内部意思決定サポート







