تحسين الذكاء الاصطناعي التوليدي لمعالجات Arm

تعد نماذج الذكاء الاصطناعي التوليدي قوية بشكل لا يصدق، ولكن تشغيلها على الأجهزة اليومية يتطلب تحسينًا ذكيًا لإدارة الذاكرة المحدودة وقوة المعالجة. يعد فهم كيفية تكيف هذه النماذج مع بنية Arm أمرًا بالغ الأهمية لنشر تطبيقات ذكاء اصطناعي مستجيبة وخاصة وفعالة مباشرة للمستخدمين. في هذه الدورة التدريبية المستندة إلى النصوص، ستنتقل من فهم النماذج التوليدية الأساسية إلى تحسينها بنجاح للأجهزة القائمة على Arm، بما في ذلك الأجهزة المحمولة والأنظمة الطرفية. ستتعلم كيفية تقليل حجم النموذج وزمن الانتقال دون التضحية بالجودة، مما يضمن تشغيل تطبيقات الذكاء الاصطناعي بسلاسة خارج مراكز بيانات السحابة الضخمة. ما ستتعلمه: 1. فهم أساسيات بنية معالجات Arm وكيفية تتعامل مع أعباء عمل الذكاء الاصطناعي. 2. تطبيق تقنيات تقييس النماذج (Quantization) لتقليص استخدام الذاكرة بشكل جذري للنشر على الأجهزة الطرفية. 3. تكوين بيئات التشغيل الحديثة مثل ONNX Runtime وExecuTorch للاستدلال المحسن. 4. تقييم خيارات التسريع الخاصة بالهندسة، بما في ذلك وحدات NPU وتعليمات المتجهات المتخصصة. 5. ممارسة تحسين نماذج LLM خفيفة الوزن مفتوحة المصدر الشائعة لمنصة الجوال والمضمنة. 6. تصميم سير عمل فعال يوازن بين دقة النموذج وسرعة المعالجة وعمر البطارية. تبدأ الدورة بمفاهيم أساسية للذكاء الاصطناعي التوليدي والقيود المادية قبل إرشادك عبر شروحات مكتوبة خطوة بخطوة حول التقييس، وتكوين بيئة التشغيل، وتحليل الأداء. تم تصميم هذه الدورة لمطوري البرمجيات، وعشاق الذكاء الاصطناعي، ومبتدئي الحوسبة الطرفية الذين يرغبون في تشغيل النماذج التوليدية محليًا. لا يتطلب الأمر أي خبرة سابقة في تحسين الأجهزة أو الأنظمة المضمنة. ابدأ القراءة اليوم لإطلاق العنان لإمكانات الذكاء الاصطناعي التوليدي المحلي وعالي الأداء على أجهزة Arm.