Stima delle Risorse per l'IA Generativa: Calcoli Approssimativi (Back-of-the-Envelope)

La pianificazione di progetti di Generative AI può essere scoraggiante, specialmente quando si tratta di comprendere la potenza di calcolo necessaria. Questo corso demistifica la stima delle risorse per i grandi modelli di IA. Acquisirai le competenze pratiche per stimare rapidamente le risorse computazionali richieste per l'addestramento e l'implementazione dei modelli di Generative AI, consentendo una migliore pianificazione del progetto e gestione dei costi. Cosa imparerai: - Comprendere le metriche computazionali fondamentali come FLOPS, parametri e ore GPU - Applicare tecniche back-of-the-envelope per stimare i costi di addestramento per i modelli di Generative AI - Analizzare le implicazioni sulle risorse di varie architetture di modelli e fattori di scaling - Esercitarsi a calcolare i requisiti hardware sia per l'addestramento del modello che per l'inferenza - Apprendere i principi fondamentali dell'allocazione delle risorse cloud e dell'ottimizzazione dei costi per i carichi di lavoro di IA - Sviluppare un approccio strategico alla pianificazione di progetti di Generative AI basato sulla stima del calcolo Il corso inizia con concetti fondamentali e terminologia essenziale prima di guidarti attraverso metodi di stima pratici. Applicherai quindi queste tecniche a vari scenari incontrati nello sviluppo moderno della Generative AI. Questo corso è progettato per principianti assoluti senza esperienza precedente nella stima delle risorse di IA o in matematica avanzata. Non sono richiesti prerequisiti. Inizia oggi a costruire la tua esperienza nella pianificazione delle risorse di Generative AI.