Nvidia har nylig avholdt den årlige utviklarkonferansen GPU Technology Conference (GTC) i San Jose, California, hvor fokuset ble rettet mot energieffektivitet i kunstig intelligens (AI). Konferansen, som ofte omtales som «AI Woodstock,» samlet bransjekjemper som Nvidia, OpenAI, xAI, Meta, Google og Microsoft, samt ledere fra store selskaper som L’Oréal, Lowe’s, Shell og Verizon, alle med mål om å implementere AI-teknologi.
Under konferansen avslørte Nvidia-sjefen Jensen Huang selskapets nyeste grafikkprosessor (GPU), Blackwell GPU. Denne brikken imponerer med utrolige 208 milliarder transistorar, som overgår kapasitetene til sin forgjenger, H100 GPU-ene, som hadde 80 milliarder transistorar. De større brikken til Blackwell GPU tilbyr dobbel hastighet for trening av AI-modellar og er fem ganger raskare for å generere utdata fra trente modellar (også kjent som inferanse). Nvidia introduserte også den kraftige superbrikken GB200, som inneholder to Blackwell GPU-er koblet til sin Grace CPU, og som overgår de eksisterende Grace Hopper MGX-enhetene som brukes i data sentre.
En bemerkelsesverdig egenskap ved Blackwell GPU er dens energiprofil, og Nvidia benytter dette til sin fordel i markedsføringen av brikken. Tidligere forbrukte kraftige brikker mer energi, der energieffektivitet måtte vike for ren ytelse. Med avsløringen av Blackwell GPU understreket Huang dens økte prosesseringshastighet og viste frem den reduserte strømforbruket under trening sammenlignet med tidligere modeller. Trening av ultrastore AI-modeller ved hjelp av 2000 Blackwell GPU-er ville kreve 4 megawatt medstrøm over 90 dager, sammenlignet med 8000 eldre GPU-er som ville forbruke 15 megawatt for samme treningsperiode. Denne betydelige forskjellen i strømforbruk adresserer bekymringene rundt den økonomiske kostnaden og karbonavtrykket assosiert med AI-teknologi.
Fokus på strømforbruk er avgjørende, da økt bevissthet rundt kostnader og miljøpåvirkningen av AI har gjort selskaper nølende med å omfavne den generative AI-revolusjonen fullt ut. Skytjenesteleverandører tar for eksempel høye gebyrer for å kjøre GPU-er, ikke bare for å dekke kostnaden av brikkene selv, men også for å dekke den nødvendige energibruken og kjølebehovene til datasentrene. Nvidia gjenkjenner denne bekymringen og har som mål å lette den ved å fremheve Blackwell’s energieffektivitet.
Kjelder: example.com
The source of the article is from the blog crasel.tk