Langroid

الوصف

Langroid هو إطار عمل Python بديهي وخفيف الوزن وقابل للتوسيع مصمم لتبسيط تطوير التطبيقات التي تعمل بنماذج اللغة الكبيرة (LLM). يعمل على نموذج برمجة متعدد الوكلاء، مستوحى من إطار عمل Actor، حيث يقوم المطورون بتعريف الوكلاء، وتزويدهم بمكونات مثل LLMs، ومخازن المتجهات، والأدوات، ثم تنسيق حل المشكلات التعاوني الخاص بهم من خلال تبادل الرسائل.

التجريد الأساسي في Langroid هو `Agent`، الذي يغلف حالة محادثة LLM ويمكن تعزيزه بمخازن المتجهات والأدوات. تعمل الوكلاء كمحولات للرسائل، مع طرق استجابة افتراضية لتفاعلات LLM و Agent والمستخدم. تغلف فئة `Task` وكيلًا (`Agent`)، وتوفر التعليمات، وتدير التكرارات، وتنسق تفاعلات الوكلاء المتعددين من خلال التفويض الهرمي. يعزز هذا التصميم المعياري قابلية إعادة الاستخدام والاقتران الفضفاض.

يدعم Langroid مجموعة واسعة من LLMs، بما في ذلك نماذج OpenAI ومئات الموفرين الآخرين (محليين/مفتوحين أو عن بعد/تجاريين) عبر مكتبات الوكيل وخوادم النماذج المحلية مثل Ollama و LiteLLM، وغالبًا ما تحاكي واجهة برمجة تطبيقات OpenAI. يتكامل مع مخازن المتجهات المختلفة مثل Qdrant و Chroma و LanceDB و Pinecone و PGVector، مما يتيح الاسترجاع المعزز للتوليد (RAG) للتأريض والاستشهاد بالمصادر. يتميز إطار العمل أيضًا بدعم قوي للأدوات/الإضافات/استدعاء الوظائف، مستفيدًا من Pydantic لتبسيط تعريف المخطط ومعالجة الأخطاء.

تشمل القدرات الرئيسية التعاون متعدد الوكلاء، واستخراج المعلومات المنظمة، والدردشة مع المستندات (RAG) مع الاستشهاد بالمصادر، والدردشة مع البيانات الجدولية. يؤكد Langroid على تجربة المطور، ويقدم ميزات مثل التخزين المؤقت لاستجابات LLM، والمراقبة، والتسجيل، وتتبع سلالة الرسائل. يتم تطويره بنشاط مع تحديثات متكررة ومجتمع متنامٍ، مما يجعله خيارًا قويًا لبناء تطبيقات LLM متطورة.

الميزات الأساسية لـ Langroid

• نموذج برمجة متعدد الوكلاء لتطبيقات LLM

• تجريدات الوكيل والمهمة لتنسيق تفاعلات LLM

• دعم لمجموعة واسعة من LLMs، بما في ذلك النماذج المحلية والخاصة

• التكامل مع مخازن المتجهات المتعددة لقدرات RAG

• دعم الأدوات/الإضافات/استدعاء الوظائف باستخدام Pydantic

• الدردشة مع المستندات (RAG) مع الاستشهاد بالمصادر

• الدردشة مع البيانات الجدولية باستخدام توليد كود Pandas

• التخزين المؤقت لاستجابات LLM

• المراقبة والتسجيل وتتبع سلالة الرسائل

• إطار عمل Python قابل للتوسيع وخفيف الوزن

البدء مع Langroid

1. 1

   استنساخ المستودع: احصل على قاعدة كود Langroid من GitHub.

2. 2

   تثبيت التبعيات: قم بإعداد بيئة افتراضية وتثبيت Langroid مع الإضافات الضرورية.

3. 3

   تكوين متغيرات البيئة: قم بإعداد مفاتيح API وبيانات الاعتماد المطلوبة الأخرى.

4. 4

   تطوير الوكلاء: قم بتعريف الوكلاء باستخدام LLMs ومخازن المتجهات والأدوات.

5. 5

   تنسيق المهام: استخدم فئة Task لإدارة تفاعلات الوكلاء وسير العمل.

6. 6

   تنفيذ التطبيقات: قم بتشغيل تطبيقاتك المدعومة بـ LLM.

حالات استخدام Langroid

• التعاون متعدد الوكلاء
• استخراج المعلومات
• الأسئلة والأجوبة للمستندات
• تحليل البيانات
• توليد الكود
• أنظمة RAG

الأسئلة الشائعة من Langroid

• ما هو Langroid؟

  Langroid هو إطار عمل Python لبناء تطبيقات مدعومة بـ LLM باستخدام نموذج برمجة متعدد الوكلاء، مما يتيح للوكلاء التعاون من خلال تبادل الرسائل.

• ما هي المكونات الأساسية لـ Langroid؟

  المكونات الأساسية هي الوكلاء (Agents)، الذين يغلفون تفاعلات LLM وحالتها، والمهام (Tasks)، التي تنسق سلوك الوكيل والتعاون متعدد الوكلاء.

• ما هي نماذج LLMs التي يدعمها Langroid؟

  يدعم Langroid نماذج LLMs من OpenAI ويتكامل مع مئات الموفرين الآخرين، بما في ذلك النماذج المحلية عبر خوادم مثل Ollama و LiteLLM.

• كيف يتعامل Langroid مع استرجاع البيانات؟

  يدعم Langroid الاسترجاع المعزز للتوليد (RAG) من خلال التكامل مع مخازن المتجهات المختلفة مثل Qdrant و Chroma و LanceDB.

• هل يمكن لوكلاء Langroid استخدام أدوات أو وظائف خارجية؟

  نعم، يدعم Langroid الأدوات/الإضافات/استدعاء الوظائف، مستفيدًا من Pydantic لسهولة التعريف والتكامل.

• ما هي فائدة استخدام Langroid لتطبيقات LLM؟

  يبسط Langroid تطوير تطبيقات LLM من خلال توفير إطار عمل منظم متعدد الوكلاء، مما يعزز النمطية وقابلية إعادة الاستخدام وتنسيقًا أسهل لتفاعلات LLM المعقدة.

• كيف يمكنني الدردشة مع مستنداتي باستخدام Langroid؟

  يوفر Langroid وكيلًا متخصصًا `DocChatAgent` يتولى استيعاب المستندات، والتضمين، وتخزين المتجهات، والإجابة على الأسئلة المعززة بالاسترجاع.

• هل يدعم Langroid نماذج LLMs المحلية؟

  نعم، يدعم Langroid نماذج LLMs المحلية التي يتم تقديمها عبر واجهات برمجة التطبيقات المتوافقة، مثل تلك التي توفرها Ollama.

• ما هو دور المهام (Tasks) في Langroid؟

  تغلف المهام الوكلاء، وتوفر التعليمات، وتدير استجابات الوكلاء، وتنسق تفاعلات الوكلاء المتعددين من خلال التفويض الهرمي.

• كيف يضمن Langroid التأريض والاستشهاد بالمصادر؟

  من خلال التكامل مع مخازن المتجهات لـ RAG، يمكن لـ Langroid استرجاع المعلومات ذات الصلة من المستندات الخارجية والاستشهاد بالمصادر المستخدمة في استجاباته.