Asas Keselamatan dan Pertahanan Prompt

Memandangkan semakin banyak aplikasi mengintegrasikan Model Bahasa Besar (LLM), mengamankannya daripada manipulasi bukan lagi pilihan. Prompt yang tidak selamat boleh membawa kepada kebocoran data, kandungan berbahaya, dan tingkah laku sistem yang tidak boleh dipercayai, yang menjejaskan kepercayaan pengguna dan mewujudkan risiko yang besar. Kursus ini menyediakan pemahaman asas tentang keselamatan prompt. Anda akan belajar cara mengenal pasti kelemahan biasa dan melaksanakan langkah-langkah pertahanan yang berkesan, membolehkan anda membina ciri berkuasa AI yang lebih selamat dan teguh. Anda akan mendapat keyakinan untuk menulis prompt yang lebih selamat dan mereka bentuk sistem yang lebih berdaya tahan. Apa yang anda akan pelajari: - Memahami konsep teras penggodaman prompt, termasuk suntikan prompt (prompt injection) dan jailbreaking. - Mempelajari teknik prompt pertahanan untuk mencipta arahan sistem yang teguh untuk model AI. - Berlatih mengenal pasti kelemahan dalam prompt dan reka bentuk aplikasi melalui latihan bertulis. - Meneroka kaedah untuk membersihkan input dan mengesahkan output model untuk mencegah penggunaan berniat jahat. - Menemui pertimbangan keselamatan unik untuk sistem yang menggunakan Generasi Dibantu Pengambilan (Retrieval-Augmented Generation - RAG). - Mengaplikasikan rangka kerja pemodelan ancaman asas pada projek berasaskan LLM anda sendiri. Kursus ini bermula dengan menerangkan vektor serangan biasa dan cara pemikiran penyerang. Dari situ, kita akan menelusuri contoh praktikal berasaskan teks tentang strategi pertahanan yang boleh anda gunakan untuk melindungi aplikasi anda. Kursus ini direka untuk pemula. Tiada pengalaman terdahulu dalam keselamatan siber diperlukan, tetapi kebiasaan asas dengan LLM adalah membantu. Ia sesuai untuk pembangun, pengurus produk, dan pemimpin teknikal yang ingin mengamankan integrasi AI mereka. Mulakan pembelajaran cara membina aplikasi AI yang lebih selamat dan boleh dipercayai hari ini.