Hitro napredovanje umetne inteligence (UI) prinaša številne koristi in tveganja. Nedavno je izvršni direktor podjetja OpenAI, Sam Altman, opozoril na to skrb in poudaril potencialne “zelo subtilne družbene neskladi”, ki bi lahko imeli uničujoče posledice. Altman meni, da čeprav smrtonosni robotski sistemi UI, ki se sprehajajo po ulicah, morda predstavljajo očitno nevarnost, bolj prikriti družbeni neskladi predstavljajo večjo grožnjo.
Namesto da bi se osredotočali na katastrofične scenarije, je glavna skrb Altmana usmerjena v nenamerne nesreče, ki izhajajo iz uporabe UI v družbi. Čeprav ima UI moč izboljšati življenja in povečati napredek v družbi, obstaja nujna potreba po obravnavanju slabosti te tehnologije. Altman priznava možnost prihodnosti, kjer bi posamezniki lahko doživeli višji življenjski standard preko širokega dostopa do visoko kakovostne inteligence.
Da bi preprečili katastrofalne posledice, Altman zagovarja ustanovitev globalnega organa, odgovornega za nadzor UI, podobnega Mednarodni agenciji za atomsko energijo. Ta nadzorni organ bi določil potrebne preventivne in varnostne ukrepe, ki jih je treba izvesti pred uporabo super inteligence ali umetne splošne inteligence (ASI).
Pri premisleku o regulativnem vidiku Altman priznava trenutne razprave in debate o UI. Vendar poudarja, da je treba preiti iz zgolj razmišljanja v izvedljiv načrt, ki pridobiva mednarodno soglasje in sodelovanje.
Čeprav je OpenAI vodilni akter na področju UI, Altman poudarja, da odgovornost za določanje predpisov ne sme temeljiti samo na ravnanju podjetja. Aktivno sodeluje z zakonodajalci na Capitol Hillu, da bi obravnaval tveganja, povezana z UI, in delal na njihovem zmanjševanju.
OpenAI je prejel pomembne naložbe iz podjetja Microsoft in sodeloval z Associated Press pri usposabljanju svojih sistemov UI, vendar se je podjetje soočilo s pravnim pregonom zaradi postopka usposabljanja njihovih klepetalnikov. New York Times je vložil tožbo, v kateri obtožuje Microsoft in OpenAI kršitve avtorskih pravic z uporabo milijonov njegovih člankov za usposabljanje modelov UI.
Na hitro razvijajočem se področju UI je ključno najti ravnotežje med napredkom in previdnostjo. Altmanov poziv k skrbnemu urejanju in premišljenemu obravnavanju družbenih neskladi poudarja potrebo po skupnih prizadevanjih za izkoriščanje polnega potenciala UI, hkrati pa zmanjševanje tveganj, ki jih predstavlja za naš svet.
Pogosta vprašanja:
1. Kakšna so potencialna tveganja umetne inteligence (UI)?
Hitro napredovanje UI prinaša koristi in tveganja. Sam Altman, izvršni direktor podjetja OpenAI, poudarja potencial za “zelo subtilne družbene nesklade”, ki bi lahko imeli uničujoče posledice. Meni, da nenamerne nesreče, ki izhajajo iz uporabe UI, predstavljajo večjo grožnjo kot očitne nevarnosti, kot so smrtonosni robotski sistemi UI.
2. Kaj je glavna skrb Altmana glede uporabe UI?
Glavna skrb Altmana je povezana z nenamernimi negativnimi posledicami uporabe UI v družbi. Čeprav UI lahko izboljša življenja in prispeva k napredku družbe, je treba obravnavati tudi slabosti te tehnologije. Altman zagovarja ustanovitev globalnega organa, odgovornega za nadzor UI in določanje ukrepov za preglednost in varnost.
3. Kaj Altman predlaga za preprečevanje katastrofalnih posledic?
Altman predlaga vzpostavitev globalne organizacije, podobne Mednarodni agenciji za atomsko energijo, za nadzor UI. Ta organizacija bi določala potrebne varnostne ukrepe pred uporabo super inteligence ali umetne splošne inteligence (ASI).
4. Kako Altman poudarja potrebo po urejanju?
Altman priznava potekajoče razprave in debate o urejanju UI, vendar poziva k prehodu iz razprav v izvedljive načrte, ki pridobijo mednarodno soglasje in sodelovanje. Aktivno sodeluje z zakonodajalci za obravnavo tveganj, povezanih z UI.
5. S kakšno pravno pregonjenostjo se je srečal OpenAI?
OpenAI se je soočil s pravno pregonjenostjo zaradi postopka usposabljanja svojih klepetalnikov (chatbots). New York Times je vložil tožbo, v kateri obtožuje Microsoft in OpenAI kršitev avtorskih pravic z uporabo milijonov njegovih člankov za usposabljanje modelov UI.
Ključni pojmi in žargon:
– Umetna inteligenca (UI): Simulacija človeške inteligence v strojih za izvajanje nalog, ki običajno zahtevajo človeško inteligenco.
– Družbeni neskladi: Nepredvidene negativne posledice ali neskladja pri uporabi UI v družbi.
– Super inteligenca: Sistemi UI, ki presegajo človeško inteligenco skoraj na vseh področjih.
– Umetna splošna inteligenca (ASI): Zelo avtonomni sistemi, ki presegajo človeške zmogljivosti pri večini gospodarsko vrednih del.
Predlagane povezave:
– OpenAI: Uradna spletna stran podjetja OpenAI, vodilne organizacije na področju umetne inteligence.
– Mednarodna agencija za atomsko energijo: Uradna spletna stran Mednarodne agencije za atomsko energijo, organizacije, ki spodbuja mirno uporabo jedrske energije in si prizadeva za zagotavljanje varnosti.
– Microsoft: Uradna spletna stran podjetja Microsoft, ameriške multinacionalke na področju tehnologije, ki je izvedla pomembne naložbe v OpenAI.
– The New York Times: Uradna spletna stran New York Timesa, uglednega časopisa, ki je vložil tožbo proti Microsoftu in OpenAI zaradi postopka usposabljanja njihovih modelov UI z uporabo njihovih člankov.
The source of the article is from the blog publicsectortravel.org.uk