الوصف
OMP NInfer هو جهاز استدلال محلي متخصص مصمم لوكلاء البرمجة باستخدام Oh My Pi. يعمل على نموذج Qwen3.8 27B من خلال محرك NInfer على وحدات معالجة الرسوميات NVIDIA RTX 5090 و 4090 و 3090. يضمن هذا الإعداد أن تكون جلسات البرمجة دائمة، مع القدرة على الحفاظ على حالة استجابات OpenAI عبر إعادة تشغيل العمليات. هذه الميزة حاسمة للمستخدمين الذين يفضلون استمرارية الجلسة على تنوع النماذج.
قراءة المزيد
تم تصميم الجهاز لأولئك الذين يمتلكون وحدة معالجة رسوميات RTX مؤهلة ويفضلون تشغيل نموذج Qwen3.8 27B بشكل خاص على أجهزتهم. إنه مفيد بشكل خاص في السيناريوهات التي تكون فيها استعادة التشغيل أكثر أهمية من الوصول إلى مجموعة واسعة من النماذج. على عكس الحلول الأخرى مثل Ollama و LM Studio و llama.cpp، التي تقدم كتالوجات نماذج أوسع، أو واجهات مستخدم سطح المكتب، أو أقصى درجات القابلية للنقل، يركز OMP NInfer على توفير تجربة استدلال محلية قوية وموثوقة.
يتناسب OMP NInfer مع سير عمل محدد: يعمل Oh My Pi كعميل، ويعمل OMP NInfer كجهاز مؤهل، ويقوم محرك NInfer بتشغيل نموذج Qwen3.8 27B. هذا الإعداد يعمل فقط في وضع الحلقة، مع مصادقة حاملة، ويعمل بطريقة مغلقة، مما يضمن أن كل بايت يتم تثبيته بواسطة هاش دون الاعتماد على السحابة. وهذا يجعله خيارًا آمنًا وموثوقًا للمطورين الذين يحتاجون إلى بيئة برمجة متسقة ودائمة.
- الفئةمساعدو البرمجة بالذكاء الاصطناعي
- النشرمحلي
- المنصاتNVIDIA RTX 5090، 4090، 3090
الميزات الأساسية لـ OMP NInfer
استدلال محلي دائم
مؤهل لـ Oh My Pi
تشغيل نموذج Qwen3.8 27B
يدعم NVIDIA RTX 5090 و 4090 و 3090
استجابات OpenAI قابلة للاستئناف بعد إعادة التشغيل
مصادقة تعمل في وضع الحلقة فقط
تشغيل مغلق
سلامة البيانات المثبتة بواسطة هاش
كيفية استخدام OMP NInfer؟
تكوين: إعداد OMP NInfer مع وحدة معالجة الرسوميات RTX الخاصة بك
استخدام: تشغيل نموذج Qwen3.8 27B لمهام البرمجة
تحسين: ضمان استمرارية الجلسة واستعادة التشغيل
حالات استخدام OMP NInfer
- دعم وكيل البرمجة
- استمرارية الجلسة
- استضافة نموذج خاص
- استعادة التشغيل
- استدلال آمن
