AI Red Teaming: Menjamin LLM dan Sistem AI Agen

Ketika Large Language Models (LLMs) dan agen AI otonom menjadi sangat terintegrasi dalam sistem perangkat lunak, maka memastikan mereka terhadap kerentanan baru adalah prioritas yang penting. Kursus ini memberikan pengenalan komprehensif terhadap tim merah AI, memberikan Anda pola pikir dan teknik yang diperlukan untuk proaktif menemukan dan memperbaiki kelemahan keamanan dalam aplikasi AI. Anda akan berpindah dari memahami batas keamanan dasar ke mengidentifikasi eksploitasi tingkat sistem yang kompleks. Di bawah bimbingan penjelasan tertulis yang terstruktur, Anda akan belajar untuk: Mengerti konsep keamanan inti AI, model ancaman, dan OWASP 10 kerentanan teratas untuk LLM; Menganalisis injeksi cepat, jailbreaking, dan teknik racun data pelatihan; Menilai risiko unik untuk AI agen, termasuk eksploitasi penggunaan alat dan loop logika Kursus ini dimulai dengan definisi dasar arsitektur AI dan parameter keamanan, sebelum memandu Anda melalui skenario ancaman tertulis dan strategi mitigasi langkah demi langkah. Dirancang untuk pengembang, penggemar keamanan, dan insinyur sistem yang baru mengenal keamanan AI, program ini tidak memerlukan pengalaman tim merah sebelumnya.