Mengoptimalkan Generative AI pada Prosesor Arm untuk Edge dan Cloud

Menjalankan model generative AI secara efisien memerlukan pemahaman tentang perangkat keras di baliknya. Karena prosesor Arm menopang segalanya mulai dari perangkat seluler hingga server cloud skala besar, mempelajari cara mengoptimalkan model untuk arsitektur ini merupakan keahlian penting bagi pengembang AI modern. Kursus berbasis teks ini memandu Anda melalui proses adaptasi dan akselerasi beban kerja generative AI pada sistem berbasis Arm. Anda akan bertransisi dari memahami konsep dasar perangkat keras hingga menerapkan teknik optimasi lanjutan yang secara dramatis mengurangi latensi dan penggunaan memori. Yang akan Anda pelajari: - Memahami arsitektur dasar prosesor Arm, termasuk desain CPU dan hierarki memori - Menerapkan teknik vektorisasi SIMD menggunakan instruksi Neon dan Scalable Vector Extension (SVE) untuk mempercepat operasi matematika - Menerapkan strategi kuantisasi low-bit, seperti INT4 dan FP8, untuk mengompresi model bahasa besar tanpa mengorbankan akurasi - Mengonfigurasi dan memanfaatkan pustaka KleidiAI yang teroptimasi untuk menyederhanakan operasi utama generative AI - Menyebarkan model yang teroptimasi baik di perangkat edge yang terbatas maupun lingkungan cloud yang skalabel - Menganalisis hambatan kinerja (bottleneck) menggunakan konsep profiling modern dan alat runtime Anda akan memulai dengan terminologi utama perangkat keras dan konsep dasar komputasi CPU sebelum mengeksplorasi strategi optimasi praktis. Melalui penjelasan tertulis langkah-demi-langkah dan contoh kode yang jelas, Anda akan belajar mengonfigurasi, mengoptimalkan, dan mengevaluasi model generatif untuk penyebaran dunia nyata. Kursus ini dirancang untuk pengembang perangkat lunak, peminat AI, dan insinyur sistem yang baru mengenal optimasi tingkat perangkat keras. Tidak diperlukan pengalaman sebelumnya dengan pemrograman perangkat keras atau bahasa rakitan (assembly). Mulailah perjalanan Anda dalam optimasi AI yang sadar perangkat keras (hardware-aware) hari ini.