Inteligenta artificială (IA) a devenit o parte integrală a vieților noastre, alimentând totul, de la chatboturi la modele de limbaj. Cu toate acestea, adevărata consumație de energie a IA rămâne un mister. În timp ce există estimări, acestea oferă doar o privire asupra consumului total de energie al IA datorită naturii extrem de variabile a modelelor de învățare a mașinilor. Această lipsă de transparență din partea companiilor precum Meta, Microsoft și OpenAI complică și mai mult calculul.
Un factor cunoscut este contrastul evident între antrenarea modelelor de IA și implementarea lor pentru utilizare extinsă. Antrenarea acestor modele este incredibil de intensivă din punct de vedere energetic și poate consuma cantități enorme de electricitate. De exemplu, se estimează că antrenarea unor modele de limbaj mare precum GPT-3 utilizează aproape 1.300 de megawați-oră (MWh) de electricitate, echivalentul consumului anual al a 130 de case din SUA. Comparativ, streamingul unei ore de Netflix necesită doar 0,8 kWh de electricitate.
Totuși, rămâne dificil de evaluat costurile energetice ale sistemelor de IA de ultimă generație. Pe de o parte, modelele de IA au crescut ca dimensiune, ceea ce poate crește consumul de energie. Pe de altă parte, companiile ar putea implementa metode eficiente din punct de vedere energetic, contracarând costurile crescânde ale energiei.
Trecerea către secretizarea din industria IA a împiedicat în continuare estimările precise. Companiile au devenit mai păstrate cu privire la regimurile lor de antrenament și detaliile hardware-ului. Prin urmare, este dificil să se determine consumul de energie al celor mai recente modele de IA precum ChatGPT și GPT-4. Această văl de secretizare nu provine doar din competiție, ci servește și ca o apărare împotriva posibilelor critici privind utilizarea frivolă a energiei, trăgând adesea comparații cu risipa de energie a criptomonedelor.
Deși antrenarea modelelor de IA reprezintă o parte semnificativă a ecuației de consum de energie, etapa de inferență este la fel de importantă. Inferența se referă la procesul de utilizare a modelului antrenat pentru a genera un output. Cercetările recente au estimat consumul de energie în timpul inferenței pentru diverse modele de IA. Rezultatele au arătat că majoritatea sarcinilor consumă cantități relativ mici de energie, comparabile cu vizionarea a câteva secunde sau minute de Netflix. Cu toate acestea, modelele de generare a imaginilor au necesitat semnificativ mai multă energie, uneori aproape la fel de mult ca încărcarea unui smartphone.
Deși aceste constatări oferă date relative, ele nu furnizează cifre absolute. Studiul evidențiază faptul că generarea output-ului necesită mai multă energie decât clasificarea input-ului, iar generarea de imagini consumă mai multă energie decât generarea de text. Este clar că costurile energetice asociate cu IA sunt încă necunoscute și extrem de contingente.
Pe măsură ce revoluția IA continuă, este vital să abordăm costurile ascunse de energie și să dezvoltăm metodologii pentru a cuantifica și îmbunătăți eficiența energetică. Înțelegerea impactului real al energiei asupra IA ne va îndruma către progrese tehnologice durabile, minimizând în același timp consecințele ambientale.
The source of the article is from the blog crasel.tk