Strokovnjaki iz pomembnih podjetij na področju umetne inteligence so izrazili zaskrbljenost glede morebitnih groženj, ki jih tehnologija umetne inteligence lahko predstavlja za človeštvo. Ti strokovnjaki zaskrbljujoče opozarjajo, da se določeni napredki umetne inteligence, ki so sposobni ogrožati obstoj človeštva, še naprej razvijajo brez regulativnega nadzora.
V neprimerljivem koraku so znanstveniki povezani z Googlom in OpenAI, ustvarjalci ChatGPT, stopili naprej s pismom javnosti. Kritizirali so podjetja, ker niso razkrila znatnih informacij o teh morebitnih nevarnostih. Po njihovem mnenju pod trenutnimi zakoni podjetja niso dolžna deliti takšnih podrobnosti z vladnim organom, kar v bistvu prenese breme razkritja na zaposlene, tako pretekle kot sedanje.
Ti zaposleni pa se srečujejo z znatnimi ovirami pri izražanju mnenja zaradi sporazumov o zaupnosti, namenjenih utišanju vsake notranje nestrinjanje. Izjava je podala poziv k vzpostavitvi neodvisnih organov za preverjanje, ki bi zaposlenim omogočili, da dvignejo vprašanja brez strahu pred posledicami. Poleg tega bi bilo treba sprejeti ukrepe za njihovo zaščito pred maščevanjem s strani delodajalcev.
Na zaskrbljujočem področju je OpenAI domnevno razpustil svojo interno ekipo za varnost, ki je bila namenjena spremljanju nevarnosti umetne inteligence. Poleg tega so poročila o tem, da podjetje sprejema politike, ki bi lahko odvzele delniške opcije zaposlenim, ki kritizirajo podjetje.
Izdaja izjave prihaja v času, ko rastejo glasovi po vsem svetu za sodelovanje pri nadzoru razvoja umetne inteligence s strani vlad in civilne družbe. Razprava med podjetji, ki agresivno razvijajo tehnologijo umetne inteligence, in strokovnjaki, ki opozarjajo na njene nevarnosti, se pričakuje, da se bo okrepila, kar poudarja nujnost uravnoteženega pristopa k raziskavam in razvoju umetne inteligence.
Na temo neurejenih raziskav umetne inteligence se pojavljajo nekatera ključna vprašanja in izzivi:
– Kakšne so posebne nevarnosti neurejenih raziskav umetne inteligence? Neurejena umetna inteligenca ima potencial, da privede do ustvarjanja avtonomnih sistemov orožja, poslabša neenakosti, krši pravice, privede do izgube delovnih mest in celo prispeva k razvoju umetne inteligence s nepredvidenimi škodljivimi učinki.
– Kako lahko zaposleni v podjetjih za umetno inteligenco zaščitijo notranje razkrivanje? Potrebno je sprejeti zakonodaje, ki spodbujajo in varujejo razkrivalce, da lahko spregovorijo brez strahu pred pravnimi ali poklicnimi posledicami.
– Kakšno vlogo bi morali imeti vlade pri regulaciji umetne inteligence? Vlade se morajo aktivno vključiti pri določanju standardov in predpisov za varno in etično usmerjeno razvoj ter uporabo umetne inteligence, da bi preprečile zlorabe.
Poleg teh izzivov obstajajo tudi nekateri sporni vidiki in razprave, povezani s to temo:
– Težko je najti ravnovesje med inovacijami in regulacijo. Pretirana regulacija lahko upočasni koristne napredke na področju umetne inteligence, medtem ko pod-regulacija nosi pomembna tveganja.
– Obstaja nesoglasje o tem, kdo naj bi bil odgovoren za regulacijo umetne inteligence—podjetja, ki razvijajo tehnologije, vlade, mednarodni organi ali neka kombinacija teh akterjev.
– Etika razvoja in uporabe umetne inteligence je prav tako sporen subjekt, zlasti v zvezi z zasebnostjo, nadzorom, sprejemanjem odločitev in vgrajenimi pristranskostmi znotraj sistemov umetne inteligence.
Prednosti in slabosti reguliranega okolja za raziskave na področju umetne inteligence:
Prednosti:
– Ustanovitev jasnih smernic za varnost in etiko pomaga zmanjšati potencial za škodo.
– Lahko okrepi javno zaupanje v tehnologije umetne inteligence, zagotovljeno z napredki, ki se jemljejo z namenom družbenega vpliva.
– Regulacija lahko spodbudi razvoj poštenih in nediskriminatornih sistemov umetne inteligence.
Slabosti:
– Pretirana regulacija lahko zavre inovacije in tehnološki napredek.
– Lahko ustvari ovire za vstop manjšim podjetjem in zagonskim podjetjem zaradi stroškov skladnosti.
– Lahko prihaja do razlik v regulativnih pristopih med različnimi državami, kar vodi v razdrobljen globalni krajolik na področju umetne inteligence.
Za dodatne informacije o temah, povezanih z umetno inteligenco, obiščite naslednje spletne strani:
– Google AI
– OpenAI