Il supercomputer Frontier, ritenuto il supercomputer più potente e avanzato al mondo, ha raggiunto una pietra miliare senza precedenti nell’addestramento dell’IA. Grazie ai processori AMD EPYC e agli acceleratori Instinct AI, il supercomputer Frontier è riuscito ad addestrare con successo un Large Language Model (LLM) con 1 trilione di parametri, sfidando le capacità di ChatGPT-4. Con la sua tecnologia all’avanguardia e prestazioni impressionanti, il supercomputer Frontier sta rivoluzionando il campo dell’intelligenza artificiale.
Il contributo di AMD al supercomputer Frontier non può essere sottovalutato. Dotato di processori AMD EPYC “Trento” di terza generazione e acceleratori GPU Instinct MI250X AI, questa potenza di calcolo è situata presso l’Oak Ridge National Laboratory (ORNL) nel Tennessee, USA, sotto la supervisione del Dipartimento dell’Energia (DOE). Con i suoi incredibili 8.699.904 core, il supercomputer Frontier raggiunge una straordinaria performance di calcolo HPC pari a 1,194 Exaflop/s, rendendolo il supercomputer più veloce al mondo e il secondo più efficiente.
Il raggiungimento dell’addestramento di un Large Language Model con 1 trilione di parametri da parte del supercomputer Frontier è il risultato di una meticolosa “ottimizzazione dei parametri iper” e di tecniche di ottimizzazione. Affinando il processo di addestramento del modello, il team di Frontier è riuscito a raggiungere nuovi record nell’industria, superando le prestazioni precedenti. Questa impresa notevole è stata realizzata mediante test approfonditi su diverse scale di parametri, inclusi 22 miliardi, 175 miliardi e i rivoluzionari 1 trilione di parametri.
Mentre attualmente il supercomputer Frontier ospita 3000 acceleratori AMD Instinct MI250X AI GPU, il vero potenziale risiede nella sua capacità totale di 37.000 acceleratori. Quando sfruttata appieno, questa enorme potenza di calcolo apre possibilità senza precedenti per l’addestramento di LLM. Il rapporto di sottoposizione a Arxiv ha enfatizzato l’efficienza impressionante del supercomputer Frontier, con throughput GPU del 38,38%, 36,14% e 31,96% raggiunti per i modelli con 22 miliardi, 175 miliardi e 1 trilione di parametri, rispettivamente. Inoltre, il team ha dimostrato un’elevata efficienza di scalabilità dell’89% e dell’87% per i modelli con 175 miliardi e 1 trilione di parametri.
Il supercomputer Frontier rappresenta l’apice dell’accelerazione dell’IA, guidato dall’hardware potente di AMD e da strategie ottimizzate. Continuando a fare progressi rivoluzionari nell’addestramento dell’IA, il supercomputer Frontier si consolida come leader nell’innovazione scientifica e tecnologica.