الوصف
magentic هي مكتبة Python مصممة لتبسيط دمج نماذج اللغة الكبيرة (LLMs) في مشاريع Python الخاصة بك. إنها تمكّن المطورين من التعامل مع تفاعلات LLM كوظائف Python قياسية، والاستفادة من المُزخرفات مثل `@prompt` و `@chatprompt` لتحديد المطالبات وتلقي مخرجات منظمة. يسهّل هذا النهج إنشاء أنظمة وكيلة متطورة عن طريق المزج السلس لقدرات LLM مع كود Python الحالي والأدوات الخارجية.
قراءة المزيد
تدور الوظائف الأساسية لـ magentic حول مُزخرفاتها، التي تحوّل وظائف Python إلى عمليات مدعومة بـ LLM. يسمح مُزخرف `@prompt` بإنشاء وظائف تأخذ وسائط، وتدرجها في قالب مطالبة مُعرّف مسبقًا، ثم ترسلها إلى LLM للمعالجة. يمكن أن يكون الإخراج من LLM سلسلة نصية بسيطة أو كائنًا منظمًا، مثل نموذج Pydantic، بفضل التعليقات التوضيحية للنوع. يوسع مُزخرف `@chatprompt` هذا عن طريق تمكين استخدام قوالب رسائل الدردشة، بما في ذلك رسائل النظام، ورسائل المستخدم، ورسائل المساعد، وهو مفيد بشكل خاص للمطالبات ذات الأمثلة القليلة وتوفير السياق.
تدعم magentic ميزات متقدمة مثل استدعاء الوظائف، حيث يمكن لـ LLM أن يقرر استدعاء وظائف Python محددة بوسائط مُقدمة. يعزز مُزخرف `@prompt_chain` هذا بشكل أكبر عن طريق السماح لنماذج LLM بربط استدعاءات الوظائف، باستخدام إخراج استدعاء واحد كمدخل للاستدعاء التالي، حتى يتم الوصول إلى إجابة نهائية. للتطبيقات في الوقت الفعلي، توفر magentic إمكانيات البث لكل من المخرجات النصية والمنظمة، مما يسمح للمطورين بمعالجة البيانات فور إنشائها. يتم دعم البرمجة غير المتزامنة أيضًا بشكل جيد، مما يتيح استعلامات LLM المتزامنة لتسريع أوقات الإنشاء بشكل كبير.
تتميز المكتبة بدعم واسع لموفري LLM، بما في ذلك OpenAI و Anthropic و Ollama، مع تكوينات لواجهات برمجة التطبيقات المتوافقة مع OpenAI. تتيح هذه المرونة للمطورين اختيار LLM الذي يناسب احتياجاتهم وميزانيتهم بشكل أفضل. تؤكد magentic أيضًا على تجربة المطور من خلال ميزات مثل التعليقات التوضيحية للنوع لتحسين تكامل IDE والمراقبة من خلال تكامل OpenTelemetry و Logfire. تم تصميمها للمطورين الذين يتطلعون إلى بناء تطبيقات ذكية، وعوامل ذكاء اصطناعي، وسير عمل معقدة تستفيد من قوة نماذج LLM ضمن بيئة Python مألوفة.
- الفئةأدوات بناء وكلاء الذكاء الاصطناعي
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتالويب
الميزات الأساسية لـ magentic
دمج نماذج LLMs كوظائف Python باستخدام المُزخرفات.
تحديد المطالبات باستخدام @prompt ورسائل الدردشة باستخدام @chatprompt.
إنشاء مخرجات منظمة باستخدام نماذج Pydantic وأنواع Python.
دعم إعادة المحاولة بمساعدة LLM لتحسين الالتزام بمخطط الإخراج.
المراقبة مع تكامل OpenTelemetry و Pydantic Logfire.
خيارات التكوين لموفري LLM متعددين (OpenAI، Anthropic، Ollama).
استدعاء الوظائف والربط لسير عمل LLM المعقدة.
بث المخرجات النصية والمنظمة للمعالجة في الوقت الفعلي.
دعم الوظائف غير المتزامنة لاستعلامات LLM المتزامنة.
تعليقات توضيحية للنوع لتحسين دعم IDE والتدقيق.
دعم قدرات الرؤية في تفاعلات LLM.
البدء مع magentic
استنساخ المستودع: git clone https://github.com/jackmpcollins/magentic.git
تثبيت التبعيات: pip install magentic
تكوين مفتاح API الخاص بـ LLM: قم بتعيين متغيرات البيئة مثل OPENAI_API_KEY.
تعريف وظائف LLM: استخدم مُزخرفات @prompt أو @chatprompt.
تنفيذ وظائف LLM: قم باستدعاء وظائف Python المُزخرفة.
دمج المخرجات: استخدم المخرجات المنظمة أو البيانات المتدفقة في تطبيقك.
حالات استخدام magentic
- تطوير عوامل الذكاء الاصطناعي
- استخراج البيانات المنظمة
- إنشاء المحتوى
- سير العمل الآلي
- تطوير روبوتات الدردشة
- تكامل الأدوات
- مساعدة تحليل البيانات
