Red Teaming de IA: seguridad ofensiva para sistemas de IA

A medida que la inteligencia artificial se integra profundamente en el software moderno, la protección de estos sistemas requiere un cambio fundamental de las pruebas de aplicaciones web tradicionales.Los sistemas de IA introducen superficies de ataque únicas, desde exploits de alucinación hasta cadenas de recuperación comprometidas y acciones de agentes no autorizados. Este curso de solo texto le proporciona los conocimientos fundamentales para pensar como un atacante y realizar pruebas de presión sistemáticas en las implementaciones de IA.Hará la transición de comprender los conceptos básicos de seguridad a trazar los límites de los sistemas de IA complejos e identificar vulnerabilidades críticas. Lo que aprenderás: - Comprender la arquitectura fundamental de los sistemas de IA y cómo sus riesgos de seguridad difieren del software tradicional. - Identificar y explotar vulnerabilidades de inyección rápida y modelar riesgos de alucinación. - Analizar las tuberías de generación aumentada de recuperación (RAG) para detectar fugas de datos y mezcla de datos no autorizada. - Evaluar las integraciones de herramientas agentic para evitar la ejecución de acciones no autorizadas y la escalada de privilegios. - Mapee el límite del sistema de IA y modele las amenazas potenciales en toda la cadena de suministro de datos. - Aplique marcos de seguridad modernos, incluidos los 10 principales de OWASP para LLM, a las evaluaciones de vulnerabilidad estructuradas. El plan de estudios fluye lógicamente desde las definiciones y terminología de seguridad de IA fundamentales hasta escenarios prácticos de modelado de amenazas.A través de explicaciones estructuradas basadas en texto y ejercicios de análisis escrito, explorará los vectores de ataque y las estrategias de defensa del mundo real. Este curso está diseñado para principiantes en ciberseguridad, probadores de penetración tradicionales y desarrolladores que buscan ingresar al espacio de seguridad de IA, sin necesidad de experiencia previa en equipos rojos de IA.Comience su viaje en la seguridad de inteligencia artificial ofensiva y aprenda cómo defender la próxima generación de aplicaciones.