Güvenli LLM Uygulamaları Yapmak: Ajanlar, RAG'lar ve Hızlı Enjeksiyon Savunması

Büyük Dil Modelleri (LLM) temel iş süreçlerine entegre olunca, özellikle kullanıcı girişi ve veri gizliliği konusunda yeni ve kritik güvenlik açıkları ortaya çıkmaktadır. Bu kurs, modern LLM uygulamalarının karşı karşıya olduğu en kritik riskleri tanımlamak, hafifletmek ve test etmek için gerekli temel bilgileri ve pratik teknikleri sağlar. Bu dersi tamamladıktan sonra, karşıt girdilerle karşılaştığınızda bile güvenli ve öngörülebilir şekilde çalışan LLM-güçlendirilmiş sistemleri (örneğin Ajanlar ve RAG uygulamaları) tasarlayacak, inşa edecek ve dağıtabileceksiniz. Ne öğreneceksin: * OWASP LLM Top 10 hassasiyetlerini ve RAG gibi yaygın LLM mimarilerine tehdit modelleme uygulamasını anlamak. * Uygulanan sistemlerde hızlı enjeksiyon, dolaylı enjksiyon ve hassas veri sızıntısına karşı güçlü savunma uygulamak. * LLM ajanları ve fonksiyon çağrılarını araç istismarını önlemek ve kaynak kullanımı ve döngüler üzerinde katı sınırlar uygulamak için ayarlayın. * Tahmin edilebilir model yanıtlarını garanti etmek için veri doğrulama yöntemleri ve yapısal çıktı teknikleri (JSON Schema gibi) kullanarak pratik yapın. * LLM boru hattından akan hassas bilgileri korumak için veri düzenleme ve temizleme teknikleri uygulayın. * Temel güvenlik testlerini (kırmızı takım) ve geçerlilik kapılarını sürekli entegrasyon ve dağıtım (CI / CD) iş akışlarına entegre edin. Kurs, savunma kodlama örneklerinin ve ajanlar ve RAG sistemleri için politika uygulamasının pratik uygulamasına geçmeden önce LLM güvenlik kavramları ve mevcut tehdit manzarasını tanımlamakla başlar.Bu kurs, geliştiriciler, veri bilimcileri ve LLM destekli uygulamaların güvenliğini sağlamaya yeni başlayan güvenlik uzmanları için tasarlanmıştır. LLM güvenlik ile önceden deneyime gerek yoktur, sadece temel programlama bilgisi gerekir. Güvenilir ve dayanıklı yapay zeka sistemleri inşa etmeye bugün başlayın.