الوصف
LMQL، أو لغة استعلام نموذج اللغة، هي لغة برمجة متخصصة تم تطويرها للتفاعل مع نماذج اللغة الكبيرة (LLMs). تم إنشاؤها بواسطة مختبر SRI في ETH زيورخ ومساهمين آخرين، توفر LMQL إطار عمل قويًا ووحدويًا لتحفيز LLM. تستخدم الأنواع والقوالب والقيود ووقت تشغيل مُحسّن لتبسيط عملية بناء وتنفيذ الاستعلامات.
قراءة المزيد
تتمثل إحدى الميزات الرئيسية لـ LMQL في دعمها للاستعلامات المتداخلة، مما يقدم البرمجة الإجرائية إلى مجال التحفيز. يسمح ذلك بتعليمات محلية مُنظمة وإعادة استخدام مكونات التحفيز، مما يعزز مرونة وقابلية إعادة استخدام الكود. يضمن تصميم LMQL أن يكون كود LLM قابلًا للنقل عبر عدة أنظمة خلفية، بما في ذلك llama.cpp وOpenAI وTransformers، مما يمكّن المستخدمين من التبديل بينها بسطر واحد من الكود.
يتم تنفيذ بناء وتوليد التحفيز في LMQL من خلال تدفق التحكم التعبيري في بايثون وتداخل السلاسل. تتيح هذه الطريقة إنشاء تحفيزات معقدة يمكن أن تشمل تدفق التحكم وسلوك التفرع، مما يوفر درجة عالية من التخصيص في كيفية بناء وتنفيذ التحفيزات.
تدعم اللغة أيضًا قيودًا، مما يمكّن المستخدمين من تحديد قيود منطقية وعالية المستوى على المخرجات. يتم تلقائيًا تحويل هذه القيود إلى قيود على مستوى الأحرف يمكن فرضها أثناء توليد النص، مما يضمن أن المخرجات تتوافق مع المتطلبات المحددة.
تم تصميم LMQL للمطورين والباحثين الذين يحتاجون إلى التفاعل مع LLMs بطريقة منظمة وفعالة. توفر مجموعة أدوات قوية لإنشاء وإدارة استعلامات LLM، مما يجعلها موردًا لا يقدر بثمن لأولئك الذين يعملون في مجالات تتطلب تفاعلات متقدمة مع نماذج اللغة.
- الفئةمنصّات تعلّم الآلة
- نموذج التسعيرفريميوم
- النشرمحلي، قائم على الويب
- المنصاتllama.cpp و OpenAI و Transformers
الميزات الأساسية لـ لغة برمجة LMQL
تحفيز LLM قوي
تصميم استعلامات وحدوية
دعم الاستعلامات المتداخلة
قابل للنقل عبر الأنظمة الخلفية
تدفق تحكم بايثون التعبيري
تداخل السلاسل للتحفيزات
قيود عالية المستوى
وقت تشغيل مُحسّن
كيفية استخدام لغة برمجة LMQL؟
التثبيت: إعداد LMQL محليًا أو استخدام بيئة تطوير Playground المستندة إلى الويب
كتابة الاستعلام: إنشاء عبارة تحفيز بسيطة مع قيود
توسيع: إضافة منطق معقد وخوارزميات فك تشفير مختلفة
استكشاف: استخدام الأمثلة في بيئة Playground للحصول على الإلهام
حالات استخدام لغة برمجة LMQL
- التفاعل مع LLM
- تحسين التحفيز
- قابلية النقل عبر الأنظمة الخلفية
- فرض القيود
- التحفيز الإجرائي
