説明
ソーラープロプレビューインストラクトは、22億のパラメータを持つ単一のGPUに適合するように開発された最先端の大規模言語モデル（LLM）です。このモデルは、30億未満のパラメータを持つモデルを超える卓越したパフォーマンスを示し、70億のパラメータを持つLlama 3.1のような、3倍以上のサイズのモデルと競争しています。このモデルは、14億から22億のパラメータにスケーリングするために、深さのアップスケーリング手法の強化版を使用して構築されており、80GBのVRAMを持つGPUに最適化されています。
続きを読む
ソーラープロプレビューのトレーニング戦略とデータセットは慎重にキュレーションされており、Phi-3-mediumモデルに対して大幅なパフォーマンス向上をもたらしています。特に、モデルの知識と指示に従う能力を評価するMMLU-ProやIFEvalのようなベンチマークで顕著です。このモデルはプレリリース版ですが、すでにその効率性と能力で際立っており、2024年11月に公式のソーラープロリリースが予定されており、拡張された言語サポートと長いコンテキストウィンドウが含まれる予定です。
ソーラープロプレビューは、指示に従うタスクや会話のやり取りのために特別に設計されており、最適なパフォーマンスのためにChatMLテンプレートを利用しています。このモデルは、Upstage ConsoleでAPIとして利用可能で、さまざまな統合方法を提供します。現在の言語カバレッジとコンテキストの長さに制限があるにもかかわらず、ソーラープロプレビューはさらなる開発と強化の準備が整っています。
- カテゴリーAIモデルとLLM
- デプロイクラウド
- プラットフォームWeb
ソーラープロプレビューインストラクトのハイライト
22億のパラメータ
単一GPU互換
30B未満のパラメータを持つモデルに対して優れたパフォーマンス
70Bを超えるパラメータを持つモデルに匹敵
強化された深さのアップスケーリング手法
80GB VRAMに最適化
会話タスクのために指示調整済み
Upstage ConsoleでAPIとして利用可能
ソーラープロプレビューインストラクトをはじめる
ページにアクセス: Hugging Faceモデルページを訪問
モデルをロード: 提供された推論コードを使用
環境を設定: 80GB VRAMのGPUをセットアップ
統合: Upstage ConsoleでAPIを使用
ファインチューニング: タスクのためにChatMLテンプレートを適用
ソーラープロプレビューインストラクトの使用例
- 会話AI
- 指示に従う
- ベンチマークテスト
- API統合
- 言語モデル研究
