الوصف
gputaskman هو مدير مهام GPU متقدم تم تطويره لتقديم تحكم ورؤية دقيقة في أداء وحدة معالجة الرسوميات عبر أنظمة التشغيل المختلفة، بما في ذلك Windows وLinux وWindows Subsystem for Linux (WSL). الوظيفة الأساسية له هي مراقبة وعرض مقاييس GPU الحيوية، مما يمكّن المستخدمين من فهم كيفية استخدام الأجهزة الرسومية في نظامهم.
قراءة المزيد
يوفر الأداة استخدام VRAM (ذاكرة الوصول العشوائي الفيديو) لكل عملية، مما يسمح للمستخدمين بتحديد التطبيقات التي تستهلك أكبر قدر من ذاكرة GPU. هذا مفيد بشكل خاص لتحسين تخصيص الموارد وحل مشكلات الأداء في التطبيقات المتطلبة مثل تدريب نماذج الذكاء الاصطناعي، والتصيير ثلاثي الأبعاد، والألعاب. بالإضافة إلى VRAM، يتتبع gputaskman النشاط العام لـ GPU، مما يوفر نظرة عامة في الوقت الحقيقي عن عبء العمل على GPU.
تتمثل إحدى الميزات البارزة لـ gputaskman في رؤيته المتخصصة في استخدام نموذج LLM (النموذج اللغوي الكبير) وKV-cache. هذه القدرة لا تقدر بثمن لمطوري الذكاء الاصطناعي والباحثين الذين يحتاجون إلى مراقبة بصمة الذاكرة وخصائص الأداء لنماذجهم. من خلال توفير معلومات مفصلة حول كيفية استخدام نماذج LLM لموارد GPU، يساعد gputaskman في تحسين نشر النموذج والاستدلال، مما يضمن الاستخدام الفعال لموارد الحوسبة عالية الأداء.
المشروع مستضاف على GitHub، مما يدل على طبيعته مفتوحة المصدر ويعزز مساهمات المجتمع. يدعم كل من وحدات معالجة الرسوميات AMD وNVIDIA على Windows، مما يضمن توافقاً واسعاً مع مجموعة متنوعة من تكوينات الأجهزة. تركيز الأداة على المقاييس التفصيلية لكل عملية ورؤى محددة لنماذج LLM يجعلها أداة قوية لأي شخص معني بالمهام التي تتطلب GPU، من مديري النظام إلى مهندسي الذكاء الاصطناعي.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرمفتوح المصدر
- النشراستضافة ذاتية
- المنصاتWindows, Linux
الميزات الأساسية لـ gputaskman
مراقبة VRAM لكل عملية
تتبع نشاط GPU
رؤى حول نموذج LLM
رؤى حول KV-cache
دعم لنظام التشغيل Windows
دعم لنظام التشغيل Linux
دعم لنظام Windows الفرعي لـ Linux (WSL)
توافق مع وحدات معالجة الرسوميات AMD (Windows)
توافق مع وحدات معالجة الرسوميات NVIDIA (Windows)
مشروع مفتوح المصدر مستضاف على GitHub
إصدارات وتحديثات منتظمة
مساهمات المجتمع
البدء مع gputaskman
استنساخ المستودع: استخدم `git clone https://github.com/shanselman/gputaskman.git` للحصول على الشيفرة المصدرية.
تثبيت التبعيات: اتبع وثائق المشروع لتثبيت حزم Python الضرورية ومكتبات النظام.
بناء/تجميع: إذا لزم الأمر، قم بتجميع التطبيق أو مكوناته وفقًا للتعليمات الخاصة بنظام التشغيل الخاص بك.
تنفيذ: قم بتشغيل تطبيق gputaskman من الطرفية الخاصة بك لبدء مراقبة نشاط GPU.
مراقبة: راقب VRAM لكل عملية، ونشاط GPU، ومقاييس محددة لنموذج LLM من خلال واجهة الأداة.
حالات استخدام gputaskman
- مراقبة موارد GPU
- تحسين أداء LLM
- استكشاف مشكلات GPU
- أدوات المطورين
- إدارة GPU عبر الأنظمة





