Frontier superdators, kas tiek uzskatīts par pasaules vadošo un spēcīgāko superdatoru, ir sasniedzis pārsteidzošu līmeni mākslīgā intelekta apmācībā. Barojoties no AMD EPYC procesoriem un Instinct AI paātrinātājiem, Frontier superdators ir veiksmīgi apmācījis 1 triljonu parametru lielu valodu modeļa (LLM) apmācības modeli, kas konkurē ar ChatGPT-4 spējām. Ar savu tehnoloģisko inovāciju un iespaidīgo veiktspēju Frontier superdators revolucionizē mākslīgā intelekta nozari.
AMD ieguldījums Frontier superdatorā ir ļoti nozīmīgs. Aprīkots ar AMD 3. paaudzes EPYC “Trento” procesoriem un Instinct MI250X AI GPU paātrinātājiem, šis datortehnoloģiju spēkpakete darbojas Oak Ridge National Laboratory (ORNL) Tenesī, ASV, zem Enerģētikas departamenta (DOE) pārraudzības. Frontier superdators lepojas ar 8 699 904 kodolu, sasniegot apbrīnojamus 1,194 Exaflop/s HPC veiktspēju, padarot to par pasaulē ātrāko superdatoru un otru efektīvāko.
Frontier superdatora sasniegums: apmācīt 1 triljona parametru LLM, ir rezultāts ilgtspējīgas “hiperparametru pielāgošanas” un optimizācijas tehnikas izmantošanai. Pēc modeļa apmācības procesa kvalitatīvas uzlabošanas Frontier komanda spēja sasniegt jaunas rūpnieciskās nozares latas, pārspējot iepriekšējos ierakstus. Šis ievērojamais sasniegums tika paveikts, veicot plašu testēšanu ar dažādu parametru skalām, ieskaitot 22 miljardus, 175 miljardus un pārsteidzošos 1 triljonu parametrus.
Lai gan Frontier superdatorā pašlaik atrodas 3000 AMD Instinct MI250X AI GPU paātrinātāji, tā īstā potenciāla slēpjas tajās kopējā kapacitātē, kas ir 37 000 paātrinātāji. Kad tas tiek pilnībā izmantots, šis milzu skaitļošanas jaudas resurss atver iespējas apmācīt LLMs, kas iepriekš nebija iespējamas. Arxiv pieteikuma ziņojumā tika uzsvērta Frontier superdatora iespaidīgā efektivitāte, sasniegta GPU krāsotājslāņos 38.38%, 36.14% un 31.96% attiecīgi 22 miljardu, 175 miljardu un 1 triljona parametru modeļiem. Turklāt komanda demonstrēja spēcīgu skalēšanās efektivitāti 89% un 87% attiecīgi 175 miljardu un 1 triljona parametru modeļiem.
Frontier superdators pārstāv mākslīgā intelekta paātrināšanas virsotni, kas tiek virzīta ar AMD spēcīgu aparatūru un optimizētām stratēģijām. Tas turpina panākt inovācijas mākslīgā intelekta apmācībā, nostiprinot Frontier superdatora pozīciju zinātnes un tehnoloģiskās inovācijas priekšgalā.
The source of the article is from the blog combopop.com.br