AI Red Teaming: Zabezpieczanie LLM i agentowych systemów AI

W miarę jak duże modele językowe (LLM) i autonomiczni agenci AI stają się głęboko zintegrowani z systemami oprogramowania, zabezpieczenie ich przed nowymi lukami jest kluczowym priorytetem. Ten kurs stanowi kompleksowe wprowadzenie do AI red teaming, wyposażając Cię w sposób myślenia i techniki potrzebne do proaktywnego znajdowania i łatania luk w zabezpieczeniach aplikacji AI.Będziesz przechodzić od zrozumienia podstawowych granic bezpieczeństwa do identyfikacji złożonych exploitów na poziomie systemu. Pod okiem uporządkowanych pisemnych wyjaśnień nauczysz się: Zrozumieć podstawowe koncepcje bezpieczeństwa AI, modelowanie zagrożeń i 10 najważniejszych luk w zabezpieczeniach OWASP dla LLM; Analizuj szybkie wstrzykiwanie, jailbreaking i techniki zatruwania danych szkoleniowych; Ocenić ryzyko unikalne dla agentowej AI, w tym wykorzystanie narzędzi i pętli logicznej Wdrażaj solidne poręcze, dezynfekcję danych wejściowych i strategie wyrównywania defensywnego w celu zabezpieczenia aplikacji.Ten kurs zaczyna się od podstawowych definicji architektur AI i parametrów bezpieczeństwa, zanim przeprowadzi Cię krok po kroku przez pisemne scenariusze zagrożeń i strategie łagodzenia. Zaprojektowany dla programistów, entuzjastów bezpieczeństwa i inżynierów systemów, którzy nie znają się na bezpieczeństwie SI, ten program nie wymaga wcześniejszego doświadczenia w tworzeniu zespołów.