การปรับแต่ง Generative AI บนโปรเซสเซอร์ Arm สำหรับ Edge และ Cloud ให้มีประสิทธิภาพสูงสุด

การรันโมเดล Generative AI ให้มีประสิทธิภาพนั้นจำเป็นต้องมีความเข้าใจในฮาร์ดแวร์ที่อยู่เบื้องหลัง เนื่องจากโปรเซสเซอร์ Arm ขับเคลื่อนทุกสิ่งตั้งแต่อุปกรณ์พกพาไปจนถึงคลาวด์เซิร์ฟเวอร์ขนาดใหญ่ การเรียนรู้วิธีปรับแต่งโมเดลสำหรับสถาปัตยกรรมนี้จึงเป็นทักษะที่สำคัญยิ่งสำหรับนักพัฒนา AI ยุคใหม่\n\nคอร์สเรียนรูปแบบข้อความนี้จะนำคุณไปสู่กระบวนการปรับแต่งและเร่งความเร็วของ Generative AI บนระบบที่ใช้ Arm คุณจะได้เปลี่ยนผ่านจากการเข้าใจแนวคิดพื้นฐานทางฮาร์ดแวร์ไปสู่การใช้เทคนิคการปรับแต่งระดับสูงที่ช่วยลด Latency และการใช้หน่วยความจำลงอย่างมหาศาล\n\nสิ่งที่คุณจะได้เรียนรู้:\n- ทำความเข้าใจสถาปัตยกรรมพื้นฐานของโปรเซสเซอร์ Arm รวมถึงการออกแบบ CPU และลำดับชั้นของหน่วยความจำ\n- ประยุกต์ใช้เทคนิค SIMD Vectorization โดยใช้คำสั่ง Neon และ Scalable Vector Extension (SVE) เพื่อเร่งความเร็วการคำนวณทางคณิตศาสตร์\n- ปรับใช้กลยุทธ์ Low-bit Quantization เช่น INT4 และ FP8 เพื่อบีบอัด Large Language Models โดยไม่สูญเสียความแม่นยำ\n- กำหนดค่าและใช้งานไลบรารี KleidiAI ที่ได้รับการปรับแต่งมาโดยเฉพาะเพื่อเพิ่มประสิทธิภาพให้กับกระบวนการทำงานหลักของ Generative AI\n- Deploy โมเดลที่ปรับแต่งแล้วทั้งบน อุปกรณ์ Edge ที่มีทรัพยากรจำกัด และบนสภาพแวดล้อม Cloud ที่รองรับการขยายตัว\n- วิเคราะห์ คอขวด ของประสิทธิภาพโดยใช้แนวคิด Profiling สมัยใหม่และเครื่องมือ Runtime\n\nคุณจะเริ่มต้นจากคำศัพท์พื้นฐานทางฮาร์ดแวร์และแนวคิดหลักของการคำนวณบน CPU ก่อนที่จะไปสำรวจกลยุทธ์การปรับแต่งที่นำไปใช้ได้จริง ผ่านคำอธิบายรูปแบบข้อความแบบเป็นขั้นตอนและตัวอย่างโค้ดที่ชัดเจน คุณจะได้เรียนรู้วิธีการตั้งค่า ปรับแต่ง และประเมินผลโมเดล Generative สำหรับการใช้งานในโลกแห่งความเป็นจริง\n\nคอร์สนี้ออกแบบมาสำหรับนักพัฒนาซอฟต์แวร์ ผู้ที่สนใจ AI และวิศวกรระบบ ที่ยังใหม่กับการปรับแต่งในระดับฮาร์ดแวร์ ไม่จำเป็นต้องมีประสบการณ์มาก่อนเกี่ยวกับ การเขียนโปรแกรมฮาร์ดแวร์ หรือ ภาษา Assembly\n\nเริ่มต้นเดินทางสู่การปรับแต่ง AI ที่คำนึงถึงฮาร์ดแวร์ได้แล้ววันนี้