Evropska unija bo kmalu na robu dokončanja odobritve prelomnega zakona o umetni inteligenci, ki bo tlakoval pot za njegovo uveljavitev še letos. Zakon, znan kot Zakon o umetni inteligenci, bo postavil EU kot globalnega pionirja v regulaciji umetne inteligence in bo služil kot model za druge države, ki se soočajo z izzivi upravljanja s to hitro razvijajočo se tehnologijo.
Zakon o umetni inteligenci je posledica pet let razprav od njegovega prvotnega predloga. Njegov glavni cilj je vzpostaviti okvir, ki zagotavlja odgovorni in človeku osredotočeni razvoj umetne inteligence, postavljajoč ljudi nadzor tehnologije, hkrati pa izkorišča njen potencial za gospodarsko rast in družbeni napredek.
Čeprav so se velika tehnološka podjetja na splošno zavzela za potrebo po regulaciji umetne inteligence, so hkrati lobirala, da bi zavarovala svoje interese. Lani je direktor podjetja OpenAI, Sam Altman, sprožil kontroverzo, ko je predlagal, da bi se podjetje morda umaknilo iz Evrope, če ne bi moglo izpolniti zahtev Zakona o umetni inteligenci. Vendar je kasneje pojasnil, da dejanskih načrtov za odhod ni.
Zakon o umetni inteligenci uporablja pristop na podlagi tveganja k regulaciji umetne inteligence, prednostno zavarovanje varnosti potrošnikov. Aplikacije umetne inteligence so razvrščene v nizko in visoko tvegane kategorije, pri čemer se raven preverjanja in regulacije razlikuje. Nizko tvegani sistemi, kot so algoritmi priporočil vsebine ali filtri za nezaželeno pošto, se bodo soočali z bolj sproščenimi pravili, ki zahtevajo predvsem preglednost pri razkrivanju njihove narave, ki temelji na umetni inteligenci. EU pričakuje, da bo večina AI sistemov razvrščena kot nizko tvegani sistemi.
Po drugi strani pa bodo visoko tvegane uporabe AI, kot so medicinski pripomočki in kritična infrastruktura, podvržene strožjim zahtevam. Te vključujejo uporabo visokokakovostnih podatkov, jasno zagotavljanje informacij uporabnikom in skladnost s specifičnimi varnostnimi ukrepi. Določene aplikacije umetne inteligence so popolnoma prepovedane zaradi njihovih presojenih nesprejemljivih tveganj, kot so določeni sistemi družbenega ocenjevanja, napovedno policijsko delo in sistemi prepoznavanja čustev v izobraževalnih in delovnih okoljih. Zakon prepoveduje tudi sisteme umetne inteligence s prepoznavo obraza za javno uporabo, razen v primerih resnih zločinov.
Pojava splošnih modelov umetne intelligence, kot je OpenAI-jev ChatGPT, je zahteval dodatne določbe v Zakonu o umetni inteligenci. Ti modeli, ki lahko ustvarjajo realistične odgovore, slike in več, zahtevajo od razvijalcev zagotavljanje podrobnih povzetkov uporabljenih podatkov za usposabljanje in skladnost z avtorskimi pravicami EU.
Ena od ključnih skrbi, ki jo naslavlja Zakon o umetni inteligenci, je potencial za sistemsko tveganje, ki ga predstavljajo zmogljivi modeli umetne inteligence. EU identificira OpenAI-jev GPT4 in Googlov Gemini kot primere modelov, ki zahtevajo povečano pozornost zaradi njihovih naprednih sposobnosti. Zakonodaja si prizadeva preprečiti resne nesreče, kibernetske napade in širjenje škodljivih pristranskosti preko generativne umetne inteligence v različnih aplikacijah.
Podjetja, ki razvijajo in zagotavljajo sisteme umetne inteligence, zajete z Zakonom o umetni inteligenci, bodo morale oceniti in zmanjšati tveganja, poročati o incidentih, ki povzročijo škodo, izvajati varnostne ukrepe ter razkrivati podatke o porabi energije.
Z nedavno odobritvijo Zakona o umetni inteligenci EU še dodatno utrjuje svoj položaj kot globalni voditelj v regulaciji umetne inteligence. Z uveljavljanjem robustnih standardov si EU prizadeva zagotoviti odgovorni in etični razvoj tehnologije umetne inteligence ter hkrati zaščititi pravice in dobrobit posameznikov.
Pogosta vprašanja
Kakšen je namen zakona EU o umetni inteligenci?
Zakon o umetni inteligenci si prizadeva vzpostaviti celovit regulativni okvir, ki zagotavlja odgovorni in človeku osredotočeni razvoj umetne inteligence.
Kako Zakon o umetni inteligenci kategorizira aplikacije umetne inteligence?
Zakon o umetni inteligenci razvršča aplikacije umetne inteligence v nizko in visoko tvegane kategorije, s različnimi stopnjami pregleda in regulacije.
Kakšni so nekateri primeri prepovedanih uporab umetne inteligence v skladu z Zakonom o umetni inteligenci?
Primeri prepovedanih uporab vključujejo sisteme družbenega ocenjevanja, določene vrste napovednega policijskega dela ter sisteme prepoznavanja obraza za javno uporabo.
Kakšne dodatne zahteve so naložene razvijalcem splošnih modelov umetne inteligence?
Razvijalci splošnih modelov umetne inteligence morajo zagotoviti podrobne povzetke podatkov za usposabljanje ter skladnost z avtorskimi pravicami EU.
Kako Zakon o umetni inteligenci naslavlja tveganja, povezana s zmogljivimi modeli umetne inteligence?
Zakon o umetni inteligenci naloži strožje regulacije in pregled na najnaprednejše modele umetne inteligence, da se omili potencial za hude nesreče, kibernetske napade in širjenje škodljivih pristranskosti.
Opredelitve:
– Zakon o umetni inteligenci: Prebojni zakon, ki ga dokončuje Evropska unija, ki vzpostavlja celovit regulativni okvir za razvoj umetne inteligence.
– Regulacija umetne inteligence: Proces izvajanja pravil in smernic za upravljanje razvoja in uporabe tehnologije umetne inteligence.
– Aplikacije umetne inteligence: Različne uporabe in implementacije umetne inteligence v različnih industrijah in sektorjih.
– Nizko tveganje in visoko tveganje: Kategorizacije, pod katerimi se razvrščajo aplikacije umetne inteligence glede na njihovo raven potencialne škode in vpliva.
– Generativna umetna inteligenca: Modeli umetne inteligence, ki so sposobni ustvarjati realistične odgovore, slike in druge izhode.
– Sistemsko tveganje: Tveganja, ki lahko vplivajo na celotno delovanje in stabilnost sistema ali družbe kot celote.
– GPT4 iz OpenAI: Določen napreden model umetne inteligence, razvit s strani OpenAI, ki je omenjen kot primer modela, ki zahteva povečano pozornost po Zakonu o umetni inteligenci.
– Gemini iz Googla: Drug napreden model umetne inteligence, razvit s strani Googla, omenjen kot primer modela, ki zahteva povečano pozornost in regulacijo.
– Avtorsko pravo: Zakonodaja, ki ščiti pravice ustvarjalcev in njihovo intelektualno lastnino.
Predlagane povezave:
– EU uradna spletna stran
– Evropska komisija – Umetna inteligenca
– Evropski parlament – EU strategija za umetno inteligenco
The source of the article is from the blog enp.gr