Roman Yampolskiy, istraživač umjetne inteligencije, izražava zabrinutost zbog potencijala da umjetna inteligencija dovede čovječanstvo do istrebljenja, procjenjujući preveliki rizik od 99,9% za takav katastrofalan ishod. Za razliku od vjerovanja u sigurne modele AI-a, Yampolskiy ističe nedostatak modela bez grešaka i nisku vjerojatnost da će budući modeli biti besprijekorni.
U nedavnom podcastu, Lex Fridman istražuje perspektive različitih inženjera umjetne inteligencije, pri čemu većina procjenjuje šansu od 1% do 20% da će AI naposljetku uzrokovati istrebljenje ljudi. Variranje u predviđanjima proizlazi iz različitih pristupa postavljanju pitanja, ističući kompleksnosti procjene rizika vezanih uz AI.
Yampolskiy, profesor računalne znanosti na Sveučilištu u Louisvilleu i autor knjige “AI: Neobjašnjivo, nepredvidljivo, nekontrolirano,” tvrdi u razgovoru s Fridmanom kritičnu važnost priznavanja potencijalnih opasnosti koje donose napretci u AI. On tvrdi da sudbina čovječanstva ovisi o sposobnosti stvaranja suštinski besprijekornog, izuzetno složenog softvera u sljedećem stoljeću – što je malo vjerojatno s obzirom na postojanje stalnih ranjivosti povezanih s dizajnom AI-a usmjerenim na čovjeka.
Posljednjih nekoliko godina, napretci u tehnologiji AI-a pokazali su upozoravajuće znakove zloupotrebe i dezinformacija, od širenja dubinski lažnih sadržaja do AI-generiranih dezinformacija koje utječu na političke događaje. Google-ov Gemini AI modelom potpomognuta značajka “Pregledi AI-a” privukla je pažnju stvaranjem besmislenih odgovora, poput sugeriranja korištenja ljepila za izradu pizze ili tvrdeći da u Africi ne postoji nijedna zemlja koja počinje sa slovom “K.”
Yampolskiy naglašava potrebu za trajnim sigurnosnim mehanizmima kako bi se učinkovito kontrolirali napretci u AI. Unatoč prijedlozima regulativnih okvira od strane osoba iz industrije kao što je Sam Altman iz OpenAI-a, nepredvidljiva priroda AGI-a (umjetne opće inteligencije) ostaje veliki izazov, pri čemu Yampolskiy upozorava na potencijalne posljedice visoko inteligentnih sustava.
Dodatni činjenice:
– Potencijalni utjecaj AI-a na tržište rada predstavlja značajnu zabrinutost, s procjenama koje sugeriraju da automatizacija može dovesti do ukidanja milijuna radnih mjesta u različitim sektorima.
– AI sustavi su pokazali pristranost temeljenu na podacima na kojima su trenirani, što može dovesti do potencijalne diskriminacije na područjima poput zapošljavanja, praksi kreditiranja i pravosuđa.
– Razvoj autonomnog oružja pogonjenog AI-om postavlja etička pitanja o mogućnosti da ta oružja donose odluke o životu i smrti bez ljudske intervencije.
Ključna pitanja:
1. Koje mjere se poduzimaju radi adresiranja etičkih implikacija razvoja AI-a?
2. Kako osigurati transparentnost i odgovornost u procesima odlučivanja AI sustava?
3. Kakav će utjecaj široka upotreba AI-a imati na društvenu nejednakost i gubitak radnih mjesta?
Prednosti:
– AI ima potencijal da revolucionira različite industrije, poboljšavajući učinkovitost, produktivnost i inovacije.
– Tehnologije AI-a mogu pomoći u rješavanju složenih problema u područjima poput zdravstva, klimatskih promjena i odgovora na katastrofe.
– Automatizacija putem AI-a može dovesti do uštede troškova i poboljšane kvalitete proizvoda i usluga.
Mane:
– Zlouporaba tehnologija AI-a može predstavljati značajne rizike za privatnost, sigurnost i demokraciju.
– AI sustavi mogu perpetuirati postojeće pristranosti i nejednakosti ako nisu pažljivo dizajnirani i praćeni.
– Brzi napredak AI-a može nadmašiti regulatorne okvire, postavljajući izazove u osiguravanju odgovornog razvoja i implementacije.
Povezani linkovi:
– Elektronička Frontier Foundation
– Američko udruženje za umjetnu inteligenciju
– Martin School