Construcción de aplicaciones LLM seguras: agentes, RAG y defensa de inyección rápida

A medida que los modelos de lenguaje grandes (LLM) se integran en los procesos empresariales principales, surgen nuevas y críticas vulnerabilidades de seguridad, especialmente en lo que respecta al manejo de la entrada del usuario y la privacidad de los datos. Este curso proporciona el conocimiento fundamental y las técnicas prácticas necesarias para identificar, mitigar y probar los riesgos más críticos que enfrentan las aplicaciones modernas de LLM. Al completar este curso, podrá diseñar, construir e implementar sistemas con tecnología LLM (como agentes y aplicaciones RAG) que funcionen de manera segura y predecible, incluso cuando se enfrenten a entradas adversarias. Lo que aprenderás: * Comprender las 10 principales vulnerabilidades de OWASP LLM y cómo aplicar el modelado de amenazas a arquitecturas LLM comunes como RAG. * Implementar defensas robustas contra la inyección inmediata, la inyectora indirecta y la fuga de datos confidenciales en los sistemas implementados. * Configurar agentes LLM y llamadas de función para evitar el abuso de herramientas y hacer cumplir los límites estrictos en el uso de recursos y ciclos. * Practicar el uso de métodos de validación de datos y técnicas de salida estructurada (como JSON Schema) para garantizar respuestas de modelo predecibles. * Aplicar técnicas de redacción y desinfección de datos para proteger la información confidencial que fluye a través de la tubería LLM. * Integrar pruebas de seguridad básicas (red teaming) y puertas de validación en flujos de trabajo de integración e implementación continua (CI / CD). El curso comienza definiendo los conceptos clave de seguridad de LLM y el panorama actual de amenazas antes de pasar a la implementación práctica de patrones de codificación defensiva y aplicación de políticas para agentes y sistemas RAG.Este curso está diseñado para desarrolladores, científicos de datos y profesionales de seguridad nuevos en la protección de aplicaciones con tecnología LLM. No se requiere experiencia previa con la seguridad LLM, solo conocimientos básicos de programación. Comience a crear sistemas de IA confiables y resistentes hoy mismo.