Despliegue de LLM e IA Generativa con NVIDIA: Preparación para el Examen de Asociado

El despliegue eficiente de modelos de lenguaje grandes requiere aceleración de hardware especializada y optimización de software. Este curso basado en texto te guía a través de los conceptos fundamentales de servir modelos de IA generativa utilizando tecnologías estándar de la industria NVIDIA. Pasarás de comprender arquitecturas de modelos básicas a configurar y desplegar pipelines de inferencia de alto rendimiento. A través de explicaciones estructuradas, desgloses arquitectónicos y guías de configuración, obtendrás el conocimiento práctico necesario para optimizar modelos para producción y prepararte con confianza para los exámenes de despliegue de nivel asociado. Lo que aprenderás: * Comprender la arquitectura central de los modelos de lenguaje grandes y los pipelines de despliegue de IA generativa; * Configurar Triton Inference Server para servir modelos múltiples y escalables; * Optimizar el rendimiento del modelo utilizando TensorRT-LLM y técnicas modernas de cuantización; * Desplegar flujos de trabajo de generación aumentada por recuperación (RAG) para entornos de producción; * Monitorear y solucionar problemas de latencia, rendimiento y utilización de hardware del modelo; * Practicar con conceptos alineados con el examen para generar confianza para la certificación de nivel asociado. El curso comienza con la terminología esencial y los fundamentos de la inferencia acelerada por hardware antes de pasar a escenarios de configuración prácticos. Explorarás estrategias de despliegue prácticas, ajuste de rendimiento y patrones de optimización a través de explicaciones escritas claras y ejemplos de configuración. Este curso está diseñado para aspirantes a ingenieros de IA, administradores de sistemas y desarrolladores que buscan ingresar al campo de las operaciones de IA; no se requiere experiencia previa en despliegue, aunque una familiaridad básica con los conceptos de IA es útil. Comienza a leer hoy mismo para dominar los fundamentos del despliegue de IA generativa de alto rendimiento.