Nedavno poročilo, ki ga je naročil ameriški State Department, je sprožilo resne pomisleke glede potencialnih nacionalnih varnostnih tveganj, povezanih s hitro razvijajočo se umetno inteligenco (UI). Porocilo, ki ga je izvedla družba Gladstone AI, poudarja nujno potrebo po posredovanju s strani zvezne vlade, da bi preprečili morebitno nesrečo.
Najpomembnejša ugotovitev poročila je bila rezultat več kot leta dni raziskav, ki so vključevale intervjuje z več kot 200 osebami, med njimi vrhunskimi izvršnimi direktorji vodilnih podjetij UI, raziskovalci kibernetske varnosti, strokovnjaki za orožje za množično uničenje in uradniki za nacionalno varnost. Porocilo jasno trdi, da bi lahko napredni sistemi UI v najslabšem primeru predstavljali “grožnjo na ravni izumrtja za človeško vrsto.”
Medtem ko State Department ZDA ni podal komentarja o poročilu, njegovo opozorilo služi kot opomin, da ob potencialnih koristih UI obstajajo resna in pomembna tveganja. UI ima potencial, da revolucionira različne sektorje, od zdravstvenega varstva do znanstvenih odkritij, vendar prinaša tudi resna tveganja, ki jih je treba priznati in obravnavati.
Jeremie Harris, izvršni direktor in soustanovitelj podjetja Gladstone AI, je poudaril potrebo po ozaveščenosti in previdnosti, z besedami: “nad določeno stopnjo sposobnosti bi se UI lahko potencialno izkazala za neobvladljivo.” Ta občutek je podprt s empiričnimi raziskavami in analizami, predstavljenimi na vodilnih konferencah o UI, kar kaže na naraščajoče dokaze za podporo skrbem, izraženim v poročilu.
Porocilo se tudi ukvarja z ukrepi, ki jih sprejema ameriška vlada za obvladovanje tveganj, povezanih z UI. Govornica Bele hiše, Robyn Patterson, je pohvalila izvršni ukaz predsednika Joeja Bidna o UI kot pomemben korak in izrazila zavezo administracije k sodelovanju z mednarodnimi partnerji in pozivala kongres, naj sprejme zakonodajo za obravnavo teh tveganj.
Porocilo posebej opredeljuje dve glavni nevarnosti, ki jih predstavlja UI. Prvič, napredni sistemi UI bi se lahko lahko potencialno uporabili kot orožje, kar bi vodilo v nepopravljivo škodo. Drugič, obstaja skrb, da bi laboratoriji za UI lahko izgubili nadzor nad razvijanimi sistemi, kar bi lahko imelo uničujoče posledice za globalno varnost. Porocilo primerja vzpon UI z uvodom jedrskih orožij in opozarja na možne konflikte, oboroževalno tekmo in usodne nesreče.
Gladstone AI v poročilu poziva k ustanovitvi nove agencije za UI, izvajanju nujnih regulatornih varoval in omejitvi količine računalniške moči, uporabljene za usposabljanje modelov UI. Avtorji poudarjajo jasno in nujno potrebo po tem, da ameriška vlada ukrepa in obravnava ta tveganja.
Pomembno je poudariti, da čeprav je poročilo pripravljeno za State Department, izražena mnenja niso nujno odsev stališč agencije ali širše ameriške vlade.
V luči varnostnih pomislekov, ki jih je izpostavilo poročilo, je glavni izvršni direktor podjetja Gladstone AI Jeremie Harris delil, da je njihova ekipa imela še nikoli viden dostop do uradnikov tako v javnem kot zasebnem sektorju, kar je prispevalo k alaramantnim sklepom. Porocilo navaja pogovore s tehničnimi in vodstvenimi ekipami izstopajocih podjetij UI, kot so OpenAI, Google DeepMind, Facebook Meta in Anthropic.
Skupne ugotovitve poročila razkrivajo pereče nacionalne varnostne tveganja, povezana z napredovanjem tehnologije UI. Pomen intervencije in izvajanja varoval ni mogoče preceniti. Ker UI nadaljuje z razvojem, je nujno, da sprejemamo proaktivne ukrepe, da zagotovimo njegov odgovoren razvoj in uporabo. Stave so visoke in čas za ukrepanje je zdaj.
Pogosta vprašanja (FAQ)
Kaj je UI?
UI, ali umetna inteligenca, se nanaša na razvoj računalniških sistemov, ki lahko opravljajo naloge, ki običajno zahtevajo človeško inteligenco. Te naloge lahko vključujejo prepoznavo govora, odločanje, reševanje problemov in učenje.
Kakšna so potencialna tveganja UI?
Porocilo poudarja več potencialnih tveganj, povezanih z UI. Ta vključujejo oborožitev naprednih sistemov UI, izgubo nadzora nad sistemi UI, konflikte, ki izvirajo iz tekme oboroževanja UI, ter morebitne katastrofalne nesreče.
Katere ukrepe priporočate za obravnavanje teh tveganj?
Porocilo predlaga ustanovitev nove agencije za UI, izvajanje nujnih regulatornih varoval in omejitve računske moči, ki se uporablja za usposabljanje modelov UI. Ti ukrepi si prizadevajo za soočanje z nacionalnimi varnostnimi tveganji, ki jih predstavlja napredovanje tehnologije UI.
Kako se ameriška vlada odziva na ta tveganja?
Ameriška vlada je s pomočjo izvršnega ukaza predsednika Joeja Bidna o UI sprejela pomembne ukrepe za obvladovanje tveganj, povezanih z umetno inteligenco. Administracija se tudi zavezuje k sodelovanju z mednarodnimi partnerji in poziva kongres, naj sprejme zakonodajo, ki bi se odzivala na te nove tehnologije.
Za več informacij obiščite glavno domeno podjetja Gladstone AI na https://www.gladstoneai.com
The source of the article is from the blog rugbynews.at