Implementando modelos abertos e LLMs

Os modelos de código aberto oferecem privacidade, personalização e controle de custos incomparáveis, mas hospedar você mesmo requer um entendimento sólido dos pipelines de implantação. Este curso baseado em texto orienta você através dos conceitos fundamentais e etapas práticas necessárias para levar modelos de peso aberto para a produção. Você passará de usar APIs de código fechado para atender, gerenciar e dimensionar seus próprios modelos abertos, dando a você controle total sobre sua infraestrutura de IA. Neste curso, você irá: 1. Entenda a arquitetura fundamental dos modelos de peso aberto e como eles diferem das APIs proprietárias. 2. Configure ambientes locais e na nuvem para executar modelos de forma eficiente usando ferramentas modernas de containerização. 3. Crie endpoints de API prontos para produção em torno de modelos abertos usando estruturas da Web leves. 4. Aplique técnicas de otimização, como quantização, para executar modelos grandes em hardware limitado. Implemente padrões básicos de Recuperação-Geração Aumentada para conectar seus modelos implantados a dados externos. 6. Monitore o desempenho, a latência e o consumo de recursos do modelo. O curso começa com terminologia e requisitos de hardware essenciais antes de passar para explicações escritas passo a passo, trechos de código e estratégias de otimização. Este curso foi projetado para desenvolvedores de software, engenheiros e criadores técnicos que são novos na implantação de aprendizado de máquina, sem experiência prévia em DevOps ou engenharia de IA. Comece a construir seu pipeline de IA auto-hospedado hoje mesmo.