Max Tegmark, priznani fizik in zagovornik varnega razvoja umetne inteligence (UI), je izdal ostro opozorilo glede potencialne eksistenčne grožnje, ki jo UI predstavlja za človeštvo. Med nastopom na vrhu o UI v Seulu je Tegmark poudaril, kako premik industrije iz osnovnih nevarnosti na bolj splošne varnostne zadeve lahko nenamerno zavleče izvajanje potrebnih omejitev za zmogljive inteligentne sisteme.
S primerjavo s zgodovinskim vzporedjem je Tegmark primerjal trenutno situacijo v razvoju UI s ključnim trenutkom v jedrski fiziki. Pojasnil je, kako sta vodilne fizike v tistem času hudo presenetila spoznanje, ko je Enrico Fermi sestavil prvi samoohranilni jedrski reaktor, saj je to pomenilo, da je bila osnovna ovira pri ustvarjanju jedrskih orožij premagana. To jih je pripeljalo do spoznanja, da je ustvarjanje atomske bombe zdaj vprašanje samo še nekaj let, dejansko bi bomba nastala v le treh letih.
V enakem duhu je Tegmark opozoril na tveganja modelov UI, ki lahko opravijo Turingov test in postanejo nerazločljivi od ljudi pri komunikaciji. Takšni napredki predstavljajo enako nevarnost, saj ni zagotovila za trajen nadzor nad temi algoritmi. Njegove skrbi se prekrivajo s tistimi, nedavno izraženimi javno in zasebno s strani pionirjev industrije, kot so Geoffrey Hinton in Yoshua Bengio, pa tudi vodilnih izvršnih direktorjev velikih tehnoloških podjetij.
Kljub tisočim podpisov strokovnjakov pod peticijo in opozorilom vplivnih osebnosti je Tegmark obžaloval, da se predlagani šestmesečni moratorij na raziskave o UI ni upošteval. Pomembna srečanja še naprej bolj poudarjajo vzpostavljanje načel regulacije kot naslovitev takojšnjih zaskrbljenosti. Fizik je opozoril na nevarnost, da bi se najbolj pereča vprašanja v zvezi z UI marginalizirala, pri čemer je navedel zgodovinske vzporednice s taktikami odvračanja tobakove industrije.
Kljub temu ostaja Tegmark upanje, pri čemer opaža obrat v javnem mnenju, saj izražajo tudi običajni ljudje svoje zaskrbljenosti glede UI, ki naj bi nadomestila ljudi. Poudaril je pomen premika od dialoga k konkretnim ukrepom ter zagovarjal uvedbo varnostnih standardov s strani vlade kot edini način za varno prihodnost UI.
Max Tegmark, fizik, zaskrbljen zaradi varnosti UI, ni s poudarkom na potencialnih tveganjih napredne UI poudaril samo potrebo po preventivnih ukrepih. Razprava o varnosti UI je večplastna, pri čemer se postavljajo vprašanja in izzivi razvijalcem, odločevalcem in splošni javnosti.
Najpomembnejša vprašanja v zvezi z varnostjo UI bi lahko vključevala:
– Kako lahko zagotovimo, da se sistemi UI uskladijo z vrednotami in etiko človeka?
– Kakšni regulativni okviri so potrebni za vodenje razvoja in uvedbe UI?
– Kako preprečiti zlorabo UI ali neželene posledice, ki jih lahko povzroči?
– Katere ukrepi se lahko sprejmejo za omilitev tveganj, povezanih s tem, da bo UI postala bolj napredna od človeške inteligence?
Glavni izzivi ali kontroverze, povezani z varnostjo UI, se običajno vrtijo okoli:
– Težavnosti napovedovanja vedenja kompleksnih sistemov UI, še posebej ko postajajo bolj avtonomni.
– Tveganj tekmovanja v vojaških razvojih UI med narodi ali podjetji, kjer prizadevanje za napredek presega varnostna razmišljanja.
– Etičnih pomislekov, kot je odvzem delovnih mest in možnost, da bi UI sprejela odločitve, ki bi lahko bile v nasprotju z blaginjo človeštva.
– Transparentnosti algoritmov UI in razumevanja uporabnikov, na podlagi katerih se sprejemajo odločitve.
Prednosti in slabosti osredotočanja na varnost UI vključujejo:
Prednosti:
– Preprečevanje potencialnih eksistenčnih tveganj, ki jih predstavlja neobvladovan razvoj UI.
– Uskladitev tehnologije UI s človekovimi vrednotami, da se zagotovi korist za družbo.
– Pričakovanje in obvladovanje družbenih vplivov, kot so izboljšave kakovosti življenja in prekinitve na trgu dela.
Slabosti:
– Omejevalni predpisi bi lahko upočasnili inovacije in razvoj koristnih tehnologij UI.
– Lahko bi prišlo do neskladja pri mednarodnih standardih in predpisih, kar bi povzročilo konkurenčne slabosti.
– Pretirano poudarjanje hipotetičnih nevarnosti lahko odvrne pozornost in vire od naslavljanja obstoječih pristranosti in napak UI.
Pri preučevanju povezanih informacijskih virov je pomembno pogledati ugledne organizacije, ki se ukvarjajo s raziskavami o UI in etiki. Uveljavljene inštitucije, kot je Inštitut za prihodnost življenja, ki ga je so-ustanovil Max Tegmark, pogosto obsežno raziskujejo te teme. Za več informacij o UI in njenem družbenem vplivu si lahko ogledate:
– Inštitut za prihodnost življenja
– AI Global
– Partnerstvo o UI
Z informiranim pristopom k varnosti UI in spodbujanjem globalnega sodelovanja bi družba lahko koristila od potencialov UI, hkrati pa se varovala pred njenimi tveganji.