Erstellen sicherer LLM-Anwendungen: Agenten, RAGs und sofortige Injektionsverteidigung

Mit der Integration von Large Language Models (LLMs) in Kerngeschäftsprozesse entstehen neue und kritische Sicherheitslücken, insbesondere in Bezug auf die Handhabung von Benutzereingaben und den Datenschutz. Dieser Kurs vermittelt das grundlegende Wissen und die praktischen Techniken, die erforderlich sind, um die kritischsten Risiken moderner LLM-Anwendungen zu identifizieren, zu mindern und zu testen. Nach Abschluss dieses Kurses können Sie LLM-gestützte Systeme (wie Agenten und RAG-Anwendungen) entwerfen, erstellen und bereitstellen, die sicher und vorhersehbar arbeiten, auch wenn sie mit gegensätzlichen Eingaben konfrontiert sind. Was Sie lernen werden: * Verstehen Sie die OWASP LLM Top 10 Schwachstellen und wie Sie die Bedrohungsmodellierung auf gängige LLM-Architekturen wie RAG anwenden. * Implementieren Sie robuste Abwehrmechanismen gegen sofortige Injektion, indirekte Injection und sensible Datenlecks in bereitgestellten Systemen. * Konfigurieren Sie LLM-Agenten und Funktionsaufrufe, um Toolmissbrauch zu verhindern und strenge Grenzen für Ressourcennutzung und Zyklen durchzusetzen. * Üben Sie die Verwendung von Datenvalidierungsmethoden und strukturierten Ausgabetechniken (wie JSON Schema), um vorhersagbare Modellantworten zu gewährleisten. * Wenden Sie Datenredigierung und -bereinigung an, um sensible Informationen zu schützen, die durch die LLM-Pipeline fließen. * Integrieren Sie grundlegende Sicherheitstests (Red Teaming) und Validierungs-Gates in kontinuierliche Integrations- und Bereitstellungs-Workflows (CI/CD). Der Kurs beginnt mit der Definition der wichtigsten LLM-Sicherheitskonzepte und der aktuellen Bedrohungslandschaft, bevor er zur praktischen Implementierung von defensiven Codierungsmustern und Richtliniendurchsetzung für Agenten und RAG-Systeme übergeht.Dieser Kurs richtet sich an Entwickler, Datenwissenschaftler und Sicherheitsexperten, die neu bei der Sicherung von LLM unterstützten Anwendungen sind. Es sind keine Vorkenntnisse im Bereich LLM-Sicherheit erforderlich, lediglich grundlegende Programmierkenntnisse. Bauen Sie noch heute vertrauenswürdige und robuste KI-Systeme auf.