الوصف
Langfuse AI Gateway هو منصة هندسة ذكاء اصطناعي مفتوحة المصدر توفر حلاً موحدًا لإدارة ومراقبة مكالمات ووكالات الذكاء الاصطناعي. تم بناؤها على OpenTelemetry، وهو معيار صناعي لبيانات التليمترية، مما يضمن مراقبة قوية وقابلة للتوسع عبر جميع التفاعلات المتعلقة بالذكاء الاصطناعي.
قراءة المزيد
تتضمن الوظائف الرئيسية لـ Langfuse AI Gateway مراقبة الوكلاء، مما يسمح للمطورين بمراقبة سلوك وأداء وكلائهم في الوقت الحقيقي. هذا أمر حيوي لتصحيح الأخطاء، وتحسين الأداء، وفهم كيفية تفاعل الوكلاء مع نماذج وبيانات الذكاء الاصطناعي المختلفة. تدعم المنصة أيضًا قدرات تقييم شاملة، مما يمكّن المستخدمين من تقييم جودة وفعالية نماذجهم وطلبات الذكاء الاصطناعي.
علاوة على ذلك، تقدم Langfuse AI Gateway ميزات إدارة الطلبات والمهارات، مما يوفر طريقة منظمة لتنظيم وإصدار ونشر الطلبات ومهارات الذكاء الاصطناعي. يساعد ذلك في الحفاظ على الاتساق وتحسين قابلية إعادة استخدام مكونات الذكاء الاصطناعي عبر مشاريع مختلفة. تدعم البوابة مزودي ذكاء اصطناعي مختلفين، بما في ذلك Google Vertex AI، وتسمح بتكوينات URL أساسية مخصصة ورؤوس إضافية لخدمات مثل OpenAI وAzure.
يمتلك المستخدمون المرونة لاستضافة Langfuse AI Gateway بأنفسهم، مما يمنحهم السيطرة الكاملة على بياناتهم وبنيتهم التحتية، أو استخدام Langfuse Cloud لتجربة خدمة مُدارة. يتم تطوير المنصة باستمرار، مع تحديثات حديثة تركز على تحسين اتصالات الويب HTTP/2، وإضافة مزودي بوابة جدد، وتعزيز إمكانية الوصول إلى الإعدادات، وضمان دقة التكاليف. إنها حل قوي للمطورين والمنظمات التي تسعى لتبسيط سير عمل هندسة الذكاء الاصطناعي والحصول على رؤى أعمق في أنظمتها الذكية.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرمفتوح المصدر
- النشراستضافة ذاتية, سحابي
- المنصاتالويب
الميزات الأساسية لـ Langfuse AI Gateway
منصة هندسة ذكاء اصطناعي مفتوحة المصدر
وظيفة بوابة الذكاء الاصطناعي
مراقبة الوكلاء
تقييمات نماذج الذكاء الاصطناعي
إدارة الطلبات
إدارة المهارات
مبنية على OpenTelemetry
تدعم Google Vertex AI كمزود
URLs أساسية مخصصة لـ OpenAI وAzure
رؤوس إضافية لـ OpenAI وAzure
خيار الاستضافة الذاتية
خيار Langfuse Cloud
دعم HTTP/2 للويب
آلية إعادة المحاولة الفورية
دقة التكاليف للتحليلات
البدء مع Langfuse AI Gateway
استنساخ المستودع: احصل على كود مصدر Langfuse AI Gateway عن طريق استنساخ مستودع GitHub.
تثبيت التبعيات: قم بإعداد التبعيات اللازمة لـ Rust وغيرها من تبعيات المشروع كما هو محدد في ملفات المشروع.
تكوين البوابة: خصص إعدادات البوابة، بما في ذلك نقاط نهاية مزود الذكاء الاصطناعي وتفاصيل المصادقة.
بناء الخدمة: قم بتجميع خدمة Rust باستخدام سكريبتات البناء المقدمة أو Dockerfile.
تنفيذ البوابة: قم بتشغيل خدمة بوابة الذكاء الاصطناعي، سواء محليًا أو تم نشرها في بنيتك التحتية.
دمج مكالمات الذكاء الاصطناعي: قم بتوجيه مكالمات الذكاء الاصطناعي الخاصة بك عبر Langfuse AI Gateway لتمكين المراقبة والإدارة.
حالات استخدام Langfuse AI Gateway
- مراقبة وكلاء الذكاء الاصطناعي
- تقييم نماذج الذكاء الاصطناعي
- إدارة هندسة الطلبات
- توجيه مكالمات الذكاء الاصطناعي المركزية
- تكامل API مخصص للذكاء الاصطناعي
- بنية تحتية للذكاء الاصطناعي مستضافة ذاتيًا
- تحسين تكاليف الذكاء الاصطناعي








