Lidia PerskaUstanovljen je nov okvir za izboljšanje sodelovanja na področju umetne inteligence (UI) na globalni ravni. Ta okvir nadgrajuje prejšnjo skupno deklaracijo z konference, ki je potekala na Nizozemskem lani. Pomembno je omeniti, da okvir ni pravno zavezujoč. Obseg dogovora med 96 udeležujočimi državami ostaja nejasen, čeprav se je približno 60 držav izreklo za podporo deklaraciji iz leta 2023, ki poziva k skupnim ukrepom brez formalnih zavez.
Po besedah nizozemskega obrambnega ministra Rubena Brekelmansa je ta pobuda korak proti konkretnejšim ukrepom. Pojasnil je, da je lani potekalo osredotočanje na spodbujanje skupnega razumevanja, medtem ko je trenutni okvir usmerjen k napredku k izvedljivim ukrepom. To vključuje natančno določitev postopkov ocenjevanja tveganj in vzpostavitev ključnih pogojev za človeško kontrolo nad uporabo UI, zlasti v vojaških aplikacijah.
Ena ključnih točk okvira poudarja potrebo po preprečevanju zlorabe UI s strani terorističnih organizacij za širjenje orožja za množično uničenje (OMU). Prav tako poudarja, da je človeška nadzor pomemben pri uporabi jedrskih orožij.
Uradniki Južne Koreje so opozorili, da mnogi elementi tega okvira odražajo načela, ki so jih že vzpostavile posamezne države. Eden od pomembnih primerov je zaveza k odgovorni uporabi vojaške UI, ki jo je izrazila Združene države, in ki je pridobila podporo 55 držav. Podrobnosti glede časa in kraja za naslednjo konferenco na visoki ravni še niso bile določene.
Nov okvir za globalno sodelovanje pri UI: izboljšanje varnosti in upravljanja
Sprejeta je bila nova pobuda za okrepitev globalnega sodelovanja na področju umetne inteligence (UI), ki poudarja varno in odgovorno uporabo. Ta nov okvir se temelji na skupni deklaraciji s prejšnje mednarodne konference, ki si prizadeva za reševanje naraščajočih skrbi glede etičnih in varnostnih posledic tehnologij UI.
Katera so ključna vprašanja, povezana s tem novim okvirom?
1. Kateri so glavni cilji okvira?
Glavni cilji vključujejo izboljšanje mednarodnega sodelovanja, vzpostavitev standardov odgovornega razvoja UI, zagotavljanje človeškega nadzora v aplikacijah UI in preprečevanje zlorabe tehnologij UI s strani zlonamernih akterjev.
2. Kako ta okvir prizadeva obravnavati etična vprašanja?
Okvir si prizadeva spodbujati preglednost v sistemih UI, zagotavljati človekove pravice in vzpostavljati javno zaupanje v aplikacije UI. Spodbuja države, da uvedejo etične smernice, ki postavljajo človekovo blaginjo in varnost na prvo mesto.
3. Katere ukrepe je predlagano za zagotovitev človeškega nadzora pri uvajanju UI, zlasti v vojaških kontekstih?
Predlaga se, da države uvedejo jasne protokole za človeško odločanje pri uvajanju vojaške UI, s čimer se zagotovi, da vsak avtomatiziran sistem deluje pod človeškim nadzorom, da se ohrani odgovornost.
Kateri so ključni izzivi ali polemike, povezane s tem okvirjem?
1. Pomanjkanje pravne zaveze: Ker okvir ni pravno zavezujoč, je zagotavljanje skladnosti med državami velik izziv. Prostovoljna narava lahko vodi do neenakega sledenja in izvajanja.
2. Različne nacionalne regulacije: Različne države imajo različne regulativne pristope k UI, kar onemogoča dosego enotnega standarda, ki bi bil sprejemljiv in učinkovit na globalni ravni.
3. Skrbi glede zasebnosti in nadzora: Ko države iščejo uporabo UI za varnostne namene, se pojavljajo skrbi glede morebitnega kršenja osebne zasebnosti in državljanskih svoboščin.
Prednosti in slabosti novega okvira
Prednosti:
– Mednarodno sodelovanje: Okvir spodbuja sodelovalno okolje, kjer lahko države delijo vpoglede in strategije o varnosti in etiki UI.
– Osredotočenost na človeški nadzor: Z poudarkom na človeškem nadzoru okvir skuša zmanjšati tveganja, povezana z avtonomnimi sistemi UI na kritičnih področjih, kot so vojaške in nujne reševalne storitve.
– Preprečevanje zlorab: Sodelovalni pristop si prizadeva preprečiti zlorabo UI s strani ekstremističnih skupin in posameznikov.
Slabosti:
– Nepredvidljivost izvajanja: Brez zavezujočih obveznosti lahko države izberejo prednostne nacionalne regulative pred mednarodnim konsenzom.
– Razlike v virih: Ne vse sodelujoče države imajo enake tehnološke sposobnosti ali vire za učinkovito izvajanje okvira, kar lahko pripelje do razlike v globalnem upravljanju UI.
– Izziv pri izvajanju: Zagotavljanje skladnosti s dogovorjenimi načeli in standardi je lahko izziv, zlasti v regijah z visokimi geopolitičnimi napetostmi.
Ker države še naprej obravnavajo kompleksnosti tehnologije UI, novi okvir predstavlja ključno pobudo za spodbujanje odgovornosti in varnosti na globalni ravni. Kljub temu vrzeli v izvajanju in različni nacionalni pristopi ponazarjajo nenehne težave pri doseganju usklajene strategije.
Za več informacij o mednarodnem sodelovanju na področju UI obiščite Sodelovanje ZN na področju UI.
