Max Tegmark, poznati fizičar i zagovornik sigurnog razvoja umjetne inteligencije (AI), izdao je oštro upozorenje o potencijalnoj egzistencijalnoj prijetnji koju AI predstavlja čovječanstvu. Govoreći na summitu o AI u Seulu, Tegmark je istaknuo kako promjena fokusa industrije s inherentnih opasnosti na općenite sigurnosne probleme može nenamjerno odgoditi provedbu potrebnih ograničenja za moćne inteligentne sustave.
Crteći povijesnu paralelu, Tegmark je usporedio trenutačnu situaciju u razvoju AI s ključnim trenutkom u nuklearnoj fizici. Objasnio je kako je vodeće fizičare tog vremena zahvatilo duboko saznanje kada je Enrico Fermi konstruirao prvi samoodrživi nuklearni reaktor, jer je to značilo da je glavna prepreka u stvaranju nuklearnog oružja bila premoštena. To ih je natjeralo na shvaćanje da je stvaranje atomske bombe sada pitanje godina, doista, bomba bi se ostvarila za samo tri godine.
Slično, Tegmark je upozorio na rizike AI modela koji mogu proći Turingov test i postati neodvojivi od ljudi u komunikaciji. Takvi napretci predstavljaju jednaku opasnost jer ne postoji jamstvo stalne kontrole nad tim algoritmima. Njegove zabrinutosti odražavaju nedavno izražene javno i privatno od strane pionira industrije poput Geoffreyja Hintona i Yoshua Bengioa, kao i visokih izvršnih direktora vodećih tehnoloških tvrtki.
Unatoč tisućama potpisa stručnjaka na peticiji i upozorenjima utjecajnih osoba, Tegmark se žalio da prijedlog o šestomjesečnom moratoriju na istraživanje AI-a nije poslušan. Sastanci na visokoj razini nastavljaju se više usredotočiti na uspostavljanje načela regulacije nego na adresiranje trenutnih zabrinutosti. Fizičar je istaknuo opasnost od marginaliziranja najhitnijih pitanja vezanih uz AI, citirajući povijesne paralele s taktikama odvraćanja industrije duhana.
Ipak, Tegmark ostaje optimističan, primjećujući da se val javnog mišljenja može mijenjati, jer čak i obični ljudi izražavaju svoju bojazan zbog zamjene ljudi AI-em. Istaknuo je važnost prelaska s dijaloga na konkretne akcije, zagovarajući nametanje sigurnosnih standarda od strane vlade kao jedini put prema sigurnoj budućnosti AI.
Max Tegmark, fizičar zabrinut zbog sigurnosti AI-a, istaknuo je ne samo potencijalne rizike napredne AI već i potrebu za proaktivnim mjerama. Razgovor o sigurnosti AI je višestraničan, s pitanjima i izazovima postavljenim developerima, donositeljima politika te široj javnosti.
Najvažnija pitanja koja se odnose na sigurnost AI-a mogla bi uključivati:
– Kako osigurati da AI sustavi usklađeni s ljudskim vrijednostima i etikom?
– Koje vrste regulativnih okvira su potrebne za upravljanje razvojem i implementacijom AI-a?
– Kako spriječiti zloupotrebu AI-a ili voditi nas prema neželjenim posljedicama?
– Koje mjere se mogu poduzeti kako bi se ublažili rizici povezani s AI-jem koji postaje napredniji od ljudske inteligencije?
Ključni izazovi ili kontroverze povezani s sigurnošću AI-a obično se vrte oko:
– Teškoća u predviđanju ponašanja složenih AI sustava, pogotovo kako postaju autonomniji.
– Rizici trke u naoružanju AI-a među nacijama ili korporacijama, gdje guranje za napredak nadmašuje sigurnosne razmatranja.
– Etičke brige, poput gubitka poslova i potencijala za donošenje odluka AI-a koje bi mogle biti u suprotnosti s ljudskim blagostanjem.
– Transparentnost AI algoritama i razumijevanje korisnika na osnovi kojih se donose odluke.
Prednosti i nedostaci fokusa na sigurnost AI-a uključuju:
Prednosti:
– Prevencija potencijalnih egzistencijalnih rizika koje postavlja nekontrolirani napredak AI-a.
– Uspostavljanje usklađenosti tehnologije AI s ljudskim vrijednostima kako bi se osiguralo da koristi društvu.
– Predviđanje i upravljanje društvenim utjecajima, poput poboljšanja kvalitete života i poremećaja na tržištu rada.
Nedostaci:
– Restriktivni propisi mogu usporiti inovacije i razvoj korisnih AI tehnologija.
– Može doći do nesuglasja u međunarodnim standardima i propisima, što dovodi do konkurentskih nedostataka.
– Pretjerano naglašavanje hipotetskih opasnosti može odvratiti pažnju i resurse od rješavanja trenutnih pristranosti i grešaka AI-a.
Prilikom razmatranja povezanih informacijskih izvora, važno je gledati na respektabilne organizacije koje provode istraživanja u području AI i etike. Renomirani instituti poput Instituta za budućnost života, koje je suosnovao Max Tegmark, često detaljno istražuju ove teme. Kako biste saznali više o AI-u i njegovom društvenom utjecaju, možete posjetiti:
– Institut za budućnost života
– AI Global
– Partnerstvo o AI
Pristupajući sigurnosti AI-a iz informiranog stajališta i potičući globalnu suradnju, društvo bi moglo imati koristi od potencijala AI-a dok se štiti od rizika.