Budowanie bezpiecznych aplikacji LLM: Agenci, RAG i szybka obrona przed wtryskiem

Wraz z integracją dużych modeli językowych (LLM) z podstawowymi procesami biznesowymi pojawiają się nowe i krytyczne luki w zabezpieczeniach, szczególnie dotyczące obsługi danych wejściowych użytkownika i prywatności danych. Kurs ten zapewnia podstawową wiedzę i praktyczne techniki wymagane do identyfikacji, łagodzenia i testowania najbardziej krytycznych zagrożeń, przed którymi stoją nowoczesne aplikacje LLM. Po ukończeniu tego kursu będziesz w stanie zaprojektować, zbudować i wdrożyć systemy zasilane LLM (takie jak aplikacje Agents i RAG), które działają bezpiecznie i przewidywalnie, nawet w obliczu sprzecznych danych wejściowych. Czego się nauczysz: * Zrozum 10 najważniejszych luk w zabezpieczeniach OWASP LLM i jak zastosować modelowanie zagrożeń do wspólnych architektur LLM, takich jak RAG. * Wdrożyć solidne zabezpieczenia przed szybkim wstrzykiwaniem, pośrednim wstrzyknięciem i wyciekiem poufnych danych w wdrożonych systemach. * Konfiguruj agentów LLM i wywołania funkcji, aby zapobiec nadużywaniu narzędzi i egzekwować ścisłe limity wykorzystania zasobów i cykli. * Ćwicz przy użyciu metod walidacji danych i uporządkowanych technik wyjściowych (takich jak schemat JSON), aby zagwarantować przewidywalne odpowiedzi modelu. * Zastosuj techniki redakcji i dezynfekcji danych, aby chronić poufne informacje przepływające przez rurociąg LLM. * Zintegruj podstawowe testy bezpieczeństwa (czerwone zespoły) i bramy walidacyjne z przepływami pracy ciągłej integracji i wdrażania (CI / CD). Kurs rozpoczyna się od zdefiniowania kluczowych koncepcji bezpieczeństwa LLM i aktualnego krajobrazu zagrożeń, zanim przejdzie do praktycznego wdrożenia wzorców kodowania obronnego i egzekwowania zasad dla agentów i systemów RAG.Ten kurs jest przeznaczony dla programistów, naukowców zajmujących się danymi i specjalistów ds. Bezpieczeństwa, którzy niedawno zabezpieczyli aplikacje obsługiwane przez LLM. Nie jest wymagane wcześniejsze doświadczenie z bezpieczeństwem LLM, tylko podstawowa wiedza programistyczna. Zacznij budować niezawodne i odporne systemy AI już dziś.