الوصف
Langroid هو إطار عمل Python بديهي وخفيف الوزن وقابل للتوسيع مصمم لتبسيط تطوير التطبيقات التي تعمل بنماذج اللغة الكبيرة (LLM). يعمل على نموذج برمجة متعدد الوكلاء، مستوحى من إطار عمل Actor، حيث يقوم المطورون بتعريف الوكلاء، وتزويدهم بمكونات مثل LLMs، ومخازن المتجهات، والأدوات، ثم تنسيق حل المشكلات التعاوني الخاص بهم من خلال تبادل الرسائل.
قراءة المزيد
التجريد الأساسي في Langroid هو `Agent`، الذي يغلف حالة محادثة LLM ويمكن تعزيزه بمخازن المتجهات والأدوات. تعمل الوكلاء كمحولات للرسائل، مع طرق استجابة افتراضية لتفاعلات LLM و Agent والمستخدم. تغلف فئة `Task` وكيلًا (`Agent`)، وتوفر التعليمات، وتدير التكرارات، وتنسق تفاعلات الوكلاء المتعددين من خلال التفويض الهرمي. يعزز هذا التصميم المعياري قابلية إعادة الاستخدام والاقتران الفضفاض.
يدعم Langroid مجموعة واسعة من LLMs، بما في ذلك نماذج OpenAI ومئات الموفرين الآخرين (محليين/مفتوحين أو عن بعد/تجاريين) عبر مكتبات الوكيل وخوادم النماذج المحلية مثل Ollama و LiteLLM، وغالبًا ما تحاكي واجهة برمجة تطبيقات OpenAI. يتكامل مع مخازن المتجهات المختلفة مثل Qdrant و Chroma و LanceDB و Pinecone و PGVector، مما يتيح الاسترجاع المعزز للتوليد (RAG) للتأريض والاستشهاد بالمصادر. يتميز إطار العمل أيضًا بدعم قوي للأدوات/الإضافات/استدعاء الوظائف، مستفيدًا من Pydantic لتبسيط تعريف المخطط ومعالجة الأخطاء.
تشمل القدرات الرئيسية التعاون متعدد الوكلاء، واستخراج المعلومات المنظمة، والدردشة مع المستندات (RAG) مع الاستشهاد بالمصادر، والدردشة مع البيانات الجدولية. يؤكد Langroid على تجربة المطور، ويقدم ميزات مثل التخزين المؤقت لاستجابات LLM، والمراقبة، والتسجيل، وتتبع سلالة الرسائل. يتم تطويره بنشاط مع تحديثات متكررة ومجتمع متنامٍ، مما يجعله خيارًا قويًا لبناء تطبيقات LLM متطورة.
- الفئةأدوات بناء وكلاء الذكاء الاصطناعي
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ Langroid
نموذج برمجة متعدد الوكلاء لتطبيقات LLM
تجريدات الوكيل والمهمة لتنسيق تفاعلات LLM
دعم لمجموعة واسعة من LLMs، بما في ذلك النماذج المحلية والخاصة
التكامل مع مخازن المتجهات المتعددة لقدرات RAG
دعم الأدوات/الإضافات/استدعاء الوظائف باستخدام Pydantic
الدردشة مع المستندات (RAG) مع الاستشهاد بالمصادر
الدردشة مع البيانات الجدولية باستخدام توليد كود Pandas
التخزين المؤقت لاستجابات LLM
المراقبة والتسجيل وتتبع سلالة الرسائل
إطار عمل Python قابل للتوسيع وخفيف الوزن
البدء مع Langroid
استنساخ المستودع: احصل على قاعدة كود Langroid من GitHub.
تثبيت التبعيات: قم بإعداد بيئة افتراضية وتثبيت Langroid مع الإضافات الضرورية.
تكوين متغيرات البيئة: قم بإعداد مفاتيح API وبيانات الاعتماد المطلوبة الأخرى.
تطوير الوكلاء: قم بتعريف الوكلاء باستخدام LLMs ومخازن المتجهات والأدوات.
تنسيق المهام: استخدم فئة Task لإدارة تفاعلات الوكلاء وسير العمل.
تنفيذ التطبيقات: قم بتشغيل تطبيقاتك المدعومة بـ LLM.
حالات استخدام Langroid
- التعاون متعدد الوكلاء
- استخراج المعلومات
- الأسئلة والأجوبة للمستندات
- تحليل البيانات
- توليد الكود
- أنظمة RAG
