説明
LiquidAI LFM2.5-2.6Bは、デバイス上での展開を目的としたハイブリッドモデルのシリーズであるLFM2.5ファミリーの一部です。LFM2アーキテクチャを基にしており、128Kのコンテキストウィンドウとエージェントのポストトレーニングを特徴としており、ツール使用、指示の遵守、複数ステップのエージェントタスクにおいて、サイズが4倍のモデルと競争力があります。
続きを読む
このモデルは、エージェント強化学習を使用してトレーニングされており、人気のあるエージェントハーネスとの互換性を高めています。
モデルは効率的な推論能力を誇り、Apple M5 Maxで1秒あたり220トークン、AMD Ryzen CPUで1秒あたり113トークンを達成し、メモリフットプリントは2.5GB未満です。これは、2.69億のパラメータ、30層、128,000の語彙サイズを持つ一般的なテキスト専用モデルです。英語、アラビア語、中国語、フランス語など、幅広い言語をサポートしています。
LFM2.5-2.6Bは、ファインチューニング用のベースモデル、CPU推論用の量子化フォーマット、クロスプラットフォーム展開用のONNX Runtimeフォーマットなど、さまざまな形式で利用可能です。MLXフレームワークを使用してApple Siliconでの高速推論に最適化されており、より迅速な出力のために推測デコーディングをサポートしています。
このモデルは、エージェントワークロード、ツール使用、データ抽出、長いコンテキストのワークフローに推奨されますが、エージェントコーディングや知識が重視されるタスクには最適ではありません。エージェントワークフローでの関数呼び出しをサポートしており、既存のシステムへのシームレスな統合を可能にします。特定のユースケースに対して最適な結果を得るためにファインチューニングが推奨されます。
LFM2.5-2.6Bは、他のサブ10Bモデルと比較してベンチマークされており、さまざまな指標で競争力のあるパフォーマンスを示しています。その効率的なアーキテクチャにより、高速なCPUおよびGPU推論が可能であり、幅広いアプリケーションに適しています。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド, セルフホスト
- プラットフォームWeb, macOS, Windows
LiquidAI LFM2.5-2.6Bのハイライト
デバイス上での展開のためのハイブリッドモデル
128Kのコンテキストウィンドウ
エージェントのポストトレーニング
効率的な推論
26.9億のパラメータ
複数の言語をサポート
さまざまな形式で利用可能
Apple Silicon向けに最適化
LiquidAI LFM2.5-2.6Bをはじめる
モデルページにアクセス: Hugging Faceのウェブサイトを訪問
認証: Hugging Faceアカウントにログイン
設定: 特定のユースケースに合わせてモデルを設定
プロンプトを送信: 推論またはエージェントワークフローにモデルを使用
LiquidAI LFM2.5-2.6Bの使用例
- エージェントワークフロー
- データ抽出
- ツール使用
- 長いコンテキストタスク
- クロスプラットフォーム展開








