Umjetna inteligencija (AI) postala je neizostavan dio naših života, pokrećući sve, od chatbotova do jezičnih modela. Međutim, stvarna potrošnja energije AI-a ostaje tajna. Iako postoje procjene, one samo pružaju uvid u ukupnu potrošnju energije AI-a zbog visoko varijabilne prirode modela strojnog učenja. Ova nedostatak transparentnosti od strane tvrtki poput Meta, Microsofta i OpenAI dodatno komplicira izračun.
Jedan poznati faktor jest jasna razlika između treniranja AI modela i implementacije za široku uporabu. Treniranje ovih modela zahtijeva ogromne količine energije i može trošiti enormne količine električne energije. Na primjer, treniranje velikih jezičnih modela poput GPT-3 procjenjuje se da koristi gotovo 1.300 megavatsat (MWh) električne energije, što je ekvivalentno godišnjoj potrošnji 130 kućanstava u SAD-u. U usporedbi, strujanje sata Netflixa zahtijeva samo 0,8 kWh električne energije.
Ipak, ostaje izazovno procijeniti energetske troškove trenutnih vrhunskih AI sustava. S jedne strane, AI modeli postaju sve veći, što potencijalno povećava potrošnju energije. S druge strane, tvrtke mogu implementirati energetski učinkovite metode koje će neutralizirati rastuće energetske troškove.
Prijelaz prema tajnovitosti unutar industrije AI-a dalje je otežao točne procjene. Tvrtke su postale zatvorenije o svojim sustavima treniranja i detaljima hardvera. Kao rezultat, izazovno je odrediti potrošnju energije najnovijih AI modela poput ChatGPT-a i GPT-4. Ovaj zaslon tajnovitosti ne proizlazi samo iz konkurencije, već također služi i kao obrana od mogućih kritika o besmislenom trošenju energije, često povlačeći usporedbe s rasipnošću kriptovaluta.
Iako je treniranje AI modela značajan dio jednadžbe potrošnje energije, faza zaključivanja je jednako važna. Zaključivanje se odnosi na proces korištenja treniranog modela za generiranje izlaza. Nedavna istraživanja procijenila su potrošnju energije tijekom zaključivanja za različite AI modele. Rezultati su pokazali da većina zadataka troši relativno male količine energije, usporedivo s gledanjem nekoliko sekundi ili minuta Netflixa. Međutim, modeli generiranja slika zahtijevali su značajno više energije, ponekad gotovo jednako kao punjenje pametnog telefona.
Iako ova saznanja nude relativne podatke, ne pružaju apsolutne brojke. Studija ističe da generiranje izlaza zahtijeva više energije od klasificiranja ulaza te da generiranje slika troši više energije od generiranja teksta. Jasno je da su troškovi energije povezani s AI-jem i dalje nepoznati i visoko uvjetovani.
Dok AI revolucija traje, važno je adresirati skrivene energetske troškove i razvijati metodologije za kvantifikaciju i poboljšanje energetske učinkovitosti. Razumijevanje stvarnog energetskog utjecaja AI-a vodit će nas prema održivim tehnološkim napretcima minimizirajući ekološke posljedice.
The source of the article is from the blog bitperfect.pe