説明
LM-Kit.NETは、.NETアプリケーション向けの完全なローカルAIランタイムを提供し、開発者がクラウドサービスに依存することなく、高度なAI機能をプロジェクトに直接統合できるようにします。SDKは、AIエージェント、ドキュメントインテリジェンス、ビジョン＆マルチモーダル、RAG＆ナレッジ、テキスト分析、音声＆オーディオ、テキスト生成という7つの異なる機能ピラーをサポートする、単一のアダプティブ推論エンジンを中心に構築されています。
これらの各ピラーは、コアランタイム上でシームレスに機能するように設計されています。LM-Kit.NET NuGetパッケージには、オープンウェイトLLM、ビジョン言語モデル、埋め込みモデル、オンデバイス音声認識、OCR、分類器を含む、推論システム全体が含まれています。これらのコンポーネントは、CPU、AVX2、CUDA 12/13、Vulkan、Metalなどのさまざまなハードウェアでアクセラレーションされ、効率的なローカル実行を保証します。このアプローチにより、クラウド呼び出しが一切ないため、予測可能なレイテンシ、完全なデータ主権、および技術的独立性が保証されます。
AIエージェントピラーは、ReActプランニング、スーパーバイザー、並列/パイプラインオーケストレーターなどの高度なオーケストレーションパターン、永続メモリ、カスタムツールをサポートします。ドキュメントインテリジェンスは、堅牢なPDFおよび画像解析、最先端のベンチマークスコアを達成するオンデバイスOCR、および文法制約付き生成を使用した構造化フィールド抽出を提供します。ビジョン＆マルチモーダル機能には、画像理解、分類、ラベリング、マルチモーダルチャット、およびLLMと同じ会話インターフェースを提供するVLM-OCRが含まれます。
RAG＆ナレッジの場合、LM-Kit.NETには、Qdrantおよびpgvector用のコネクタを備えた組み込みベクトルストアが含まれており、ハイブリッド検索とソース引用をサポートします。テキスト分析は、感情、固有表現認識（NER）、PII検出、言語検出のための組み込み分類器と抽出器を提供し、型指定されたC#オブジェクトを出力します。音声＆オーディオピラーは、100以上の言語に対応する、幻覚抑制、音声アクティビティ検出、リアルタイム翻訳、ストリーミング出力を備えた、成長中のローカル音声認識スタックを特徴としています。
テキスト生成は、翻訳、書き換え、要約、プロンプトテンプレート、文法制約付き出力を含む、シングルターン、マルチターン、ステートレスな会話プリミティブを網羅しています。LM-Kit.NETの基盤は、JSON、スキーマ、ツール呼び出し形状の解析を保証する動的文法による制約付き出力、幻覚を低減するためのアダプティブガイダンス、および新しいオープンウェイトモデルの簡単な統合のためのモデルに依存しないアーキテクチャを備えたアダプティブ推論エンジンです。
LM-Kit.NETは、トークンごとの課金なし、ネットワーク外へのデータ流出なし、予測可能なレイテンシ、既存のコンピューティングインフラストラクチャの活用など、クラウドAPIに対する大きな利点を提供します。また、サイドカーやHTTPシムを回避し、.NETプロセスに直接統合することで、Pythonサービスとも対照的です。他の.NETローカルスタックと比較して、LM-Kit.NETは推論だけでなく、エージェント、RAG、OCR、音声、ビジョン、分類器を含む完全なランタイムを提供します。
LM-Kit.NETは、.NET Standard 2.0および.NET 8/9/10と互換性があり、Windows、Linux（x64およびARM64）、macOSで実行できます。非商用アプリケーションおよび評価用の無料コミュニティライセンスと、商用再配布用のプロフェッショナルなカスタム価格オプションを提供します。Microsoft.Extensions.AIおよびSemantic Kernel用のブリッジが利用可能であり、既存の.NET AIエコシステムとのシームレスな統合を可能にします。
LM-Kit.NETの主要機能
.NET向けのローカルAIランタイム
7つの機能ピラー：エージェント、ドキュメントインテリジェンス、ビジョン、RAG、テキスト分析、音声、生成
アダプティブ推論エンジン
1つのNuGetパッケージ、クラウド呼び出しゼロ
データとレイテンシの完全な制御
SOTAベンチマークスコアを持つオンデバイスOCR
Qdrantおよびpgvectorコネクタを備えた組み込みベクトルストア
100以上の言語に対応するローカル音声認識スタック
構造化出力のための文法制約付き生成
CPU、AVX2、CUDA、Vulkan、Metalでの推論アクセラレーション
モデルに依存しないアーキテクチャ
無料のコミュニティライセンスあり
商用利用のためのプロフェッショナルカスタムライセンス
Microsoft.Extensions.AIおよびSemantic Kernel用のブリッジ
LM-Kit.NETの使い方は？
インストール：LM-Kit.NET NuGetパッケージを.NETプロジェクトに追加します。
設定：ローカル推論エンジンを設定し、目的のAIモデルを選択します。
エージェントの統合：ReActプランニングなどのパターンを使用してAIエージェントをオーケストレーションします。
ドキュメント処理：ドキュメントインテリジェンスを使用してPDFおよび画像を解析します。
ビジョンの実装：画像理解およびマルチモーダルチャット機能を統合します。
RAGシステムの構築：知識拡張のためにベクトル検索と取得を設定します。
テキスト分析：テキスト分析機能を使用して分類と抽出を行います。
音声の追加：ローカル音声認識および翻訳機能を統合します。
テキスト生成：会話プリミティブと文法制約付き生成を使用します。
LM-Kit.NETの使用例
- ローカルAI開発
- ドキュメント処理
- オンデバイスビジョンAI
- プライベートRAGシステム
- オフライン音声認識
- データ主権
- 予測可能なレイテンシ
- AIエージェントオーケストレーション
