الوصف
تقدم BytePenny مجموعة شاملة من أدوات الذكاء الاصطناعي مفتوحة المصدر والمُستضافة ذاتيًا، مصممة للخصوصية والتحكم. تشمل العروض الأساسية Matricxon، محرك استدلال GGUF مفتوح المصدر، وpAIring، مساحة عمل دردشة ذكاء اصطناعي خاصة مصممة للفرق. تتيح هذه المنتجات للمنظمات تشغيل نماذج اللغة الكبيرة مباشرة على أجهزتها الخاصة، مما يضمن أن الطلبات والمستندات وبيانات الدردشة لا تغادر خوادمها أبدًا.
قراءة المزيد
تؤكد المنصة على خصوصية البيانات، حيث تعمل بالكامل دون اتصال للحفاظ على جميع المعلومات الحساسة داخل المؤسسة. تدعم نماذج GGUF المختلفة من مصادر مثل Hugging Face وllama.cpp أو محركات Matricxon، ويمكن أن تتكامل مع خوادم أدوات MCP. تم بناء BytePenny بفلسفة مفتوحة المصدر، باستخدام ترخيص AGPL-3.0، مما يسمح للفرق بفحص وتعديل كل سطر من التعليمات البرمجية، مما يعزز الشفافية والثقة.
Matricxon، محرك الاستدلال، هو وقت تشغيل LLM خفيف وقابل للقراءة مكتوب بلغة بايثون وPyTorch، ويتميز بنوى C الأصلية لأداء معزز. يدعم نماذج GGUF لمهام مثل الدردشة، وتوليد النصوص، والتضمينات، وإعادة الترتيب، ونماذج الرؤية واللغة، وتوقعات السلاسل الزمنية، ويقدمها عبر واجهة برمجة التطبيقات HTTP. يعمل بكفاءة على وحدات المعالجة المركزية ويقدم دعم BETA لوحدات معالجة الرسوميات NVIDIA، مع خطط للتوسع إلى وحدات معالجة الرسوميات AMD وApple Silicon. يدعم Matricxon أيضًا وضع الكلاستر لنماذج مشتركة وذاكرات دردشة عبر عدة عقد، يتم إدارتها من واجهة مستخدم pAIring.
pAIring، مساحة عمل دردشة ذكاء اصطناعي الخاصة، مصممة للتعاون بين الفرق، حيث تقدم ميزات مثل الوصول القائم على الأدوار، والقنوات المشتركة، وقاعدة المعرفة المتكاملة. توفر ذاكرات دردشة مشفرة وتضمن أن الطلبات لا تُستخدم أبدًا لتدريب النماذج. النظام قابل للتوسع، مما يسمح للمستخدمين بالبدء بخادم واحد والتوسع عن طريق إضافة عقد مع ميزات توازن الحمل والتعافي من الفشل. في السيناريوهات التي تتطلب مزيدًا من القوة، يمكن لـ pAIring الاتصال بمزودي السحابة المختلفين مثل Bedrock وVertex AI وAzure OpenAI وGemini وGroq والمزيد، مما يوفر مرونة لدمج المحركات المحلية والسحابية.
تُلغي BytePenny فواتير لكل توكن، مما يسمح للمنظمات بالاستفادة من الأجهزة الموجودة والحفاظ على تكاليف ثابتة مع زيادة الاستخدام. تم تصميم المجموعة بالكامل لتكون مفتوحة، من كود AGPL-3.0 إلى نماذج الوزن المفتوح، مما يجعلها مثالية للشبكات الخاصة والمغلقة. تعتبر الأمان قضية ذات أهمية قصوى، مع ميزات مثل كلمات المرور المشفرة باستخدام bcrypt، والأسرار المخزنة المشفرة، وذاكرات دردشة مشفرة باستخدام AES-256-GCM، وفحوصات الأدوار على جانب الخادم لإجراءات الإدارة. حصل كل من Matricxon وpAIring على شارة 'النجاح' من OpenSSF لأفضل الممارسات، مما يدل على الالتزام بممارسات تطوير آمنة.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرOpen Source (AGPL-3.0), No Per-Token Bills
- النشرSelf-Hosted, On-Premise, Cloud (Hybrid)
- المنصاتWindows, Linux
الميزات الأساسية لـ BytePenny
محرك استدلال ذكاء اصطناعي مُستضاف ذاتيًا (Matricxon)
مساحة عمل دردشة ذكاء اصطناعي خاصة للفرق (pAIring)
تشغيل نماذج اللغة الكبيرة على الأجهزة الخاصة بك
تظل البيانات داخل المؤسسة؛ الطلبات والمستندات لا تغادر الخوادم أبدًا
مفتوح المصدر مع ترخيص AGPL-3.0
يعمل بالكامل دون اتصال
ذاكرات دردشة مشفرة باستخدام AES-256-GCM
الوصول القائم على الأدوار للفرق
الطلبات لا تُستخدم أبدًا لتدريب النماذج
يدعم نماذج GGUF من Hugging Face وllama.cpp وMatricxon
نوى مُقاسة لدعم وحدات المعالجة المركزية ووحدات معالجة الرسوميات NVIDIA
لا توجد فواتير لكل توكن؛ تكاليف ثابتة مع زيادة الاستخدام
نشر قابل للتوسع: عقدة واحدة، مجموعة مشتركة، أو خوادم منفصلة
يتصل بأكثر من 12 مزود سحابة (Bedrock وVertex AI وAzure OpenAI وGemini وGroq وغيرها)
مكتوب من الصفر بلغة بايثون لسهولة القراءة والتخصيص
كيفية استخدام BytePenny؟
نشر BytePenny: قم بتثبيت Matricxon وpAIring على خوادمك الخاصة أو بنية السحابة.
تكوين محرك الاستدلال: قم بإعداد Matricxon كمحرك استدلال محلي أو قم بتوصيل pAIring بمزود سحابة مفضل.
إضافة نماذج: دمج نماذج GGUF من Hugging Face أو مصادر أخرى، أو استخدام نماذج مستضافة سحابياً عبر الموصلات.
إدارة المستخدمين والفرق: تكوين الوصول القائم على الأدوار، إنشاء قنوات مشتركة، وتأسيس قاعدة معرفة داخل pAIring.
بدء الدردشة: ابدأ محادثات ذكاء اصطناعي خاصة واستفد من قاعدة المعرفة للتعاون بين الفرق.
مراقبة وتوسيع: راقب حالة النظام، إدارة عقد الكلاستر، وتوسيع الأجهزة مع زيادة الاستخدام دون تكبد تكاليف لكل توكن.
حالات استخدام BytePenny
- دردشة فريق خاصة
- استدلال LLM محلي
- تحليل مستندات آمن
- عمليات ذكاء اصطناعي تحت السيطرة على التكاليف
- سير عمل ذكاء اصطناعي دون اتصال
- نشر نموذج مخصص
- بنية تحتية قابلة للتوسع للذكاء الاصطناعي
- تطوير ذكاء اصطناعي مفتوح المصدر








