LM-Kit.NET

تم تصميم كل من هذه المحاور لتعمل بسلاسة على بيئة التشغيل الأساسية. تتضمن حزمة LM-Kit.NET NuGet نظام الاستدلال بأكمله، والذي يتميز بنماذج لغوية كبيرة مفتوحة الوزن، ونماذج لغوية مرئية، ونماذج تضمين، وتحويل الكلام إلى نص على الجهاز، والتعرف الضوئي على الحروف (OCR)، والمصنفات. يتم تسريع هذه المكونات عبر أجهزة مختلفة، بما في ذلك CPU، AVX2، CUDA 12/13، Vulkan، و Metal، مما يضمن التنفيذ المحلي الفعال. يضمن هذا النهج زمن استجابة يمكن التنبؤ به، وسيادة كاملة للبيانات، واستقلالاً تقنياً، حيث لا توجد مكالمات سحابية متضمنة.

يدعم محور وكلاء الذكاء الاصطناعي أنماط تنسيق متقدمة مثل تخطيط ReAct، والمشرفين، ومنسقي التوازي/خطوط الأنابيب، بالإضافة إلى الذاكرة المستمرة والأدوات المخصصة. يوفر ذكاء المستندات تحليلًا قويًا لملفات PDF والصور، والتعرف الضوئي على الحروف على الجهاز يحقق درجات معيارية حديثة، واستخراج الحقول المنظمة باستخدام توليد مقيد بالقواعد النحوية. تشمل قدرات الرؤية والوسائط المتعددة فهم الصور، والتصنيف، ووضع العلامات، والدردشة متعددة الوسائط، و VLM-OCR، مما يوفر نفس واجهة المحادثة مثل نماذج اللغة الكبيرة (LLMs).

بالنسبة لـ RAG والمعرفة، يتضمن LM-Kit.NET مخزنًا متجهًا مدمجًا مع موصلات لـ Qdrant و pgvector، ويدعم الاسترجاع الهجين واقتباسات المصدر. يوفر تحليل النصوص مصنفات ومستخرجات مدمجة للمشاعر، والتعرف على الكيانات المسماة (NER)، واكتشاف المعلومات الشخصية (PII)، واكتشاف اللغة، ويصدر كائنات C# محددة النوع. يتميز محور الكلام والصوت بمكدس محلي متنامٍ لتحويل الكلام إلى نص مع قمع الهلوسة، واكتشاف نشاط الصوت، والترجمة في الوقت الفعلي، وإخراج التدفق لأكثر من 100 لغة.

يشمل توليد النصوص بدائيات محادثة أحادية الدور، ومتعددة الأدوار، وغير متزامنة، بما في ذلك الترجمة، وإعادة الكتابة، والتلخيص، وقوالب المطالبات، والمخرجات المقيدة بالقواعد النحوية. أساس LM-Kit.NET هو محرك الاستدلال التكيفي الخاص به، والذي يتميز بمخرجات مقيدة عبر قواعد ديناميكية لضمان تحليل JSON، والمخططات، وأشكال استدعاء الأدوات، والتوجيه التكيفي لتقليل الهلوسة، وهندسة معمارية مستقلة عن النموذج لسهولة دمج نماذج الوزن المفتوح الجديدة.

يقدم LM-Kit.NET مزايا كبيرة مقارنة بواجهات برمجة التطبيقات السحابية، بما في ذلك عدم وجود فواتير لكل رمز مميز، وعدم مغادرة البيانات للشبكة، وزمن استجابة يمكن التنبؤ به، والاستفادة من البنية التحتية للحوسبة الحالية. كما أنه يختلف عن خدمات Python بتجنب الخدمات الجانبية وواجهات HTTP، ويتكامل مباشرة في عملية .NET. مقارنةً بحزم .NET المحلية الأخرى، يوفر LM-Kit.NET بيئة التشغيل الكاملة، وليس فقط الاستدلال، ويشمل الوكلاء، و RAG، و OCR، والكلام، والرؤية، والمصنفات.

LM-Kit.NET متوافق مع .NET Standard 2.0 و .NET 8/9/10، ويعمل على أنظمة Windows و Linux (x64 و ARM64) و macOS. يوفر ترخيص مجتمع مجاني للتطبيقات غير التجارية والتقييم، مع خيار احترافي بسعر مخصص لإعادة التوزيع التجاري. تتوفر جسور لـ Microsoft.Extensions.AI و Semantic Kernel، مما يسمح بالتكامل السلس مع أنظمة الذكاء الاصطناعي الحالية في .NET.