Uvod:
Nedavna uredba, dosežena po pogajanjih z državami članicami, je naletela na pomembno odobravanje in si prizadeva rešiti potencialna tveganja, povezana z umetno inteligenco (UI), hkrati pa spodbuja inovacije. Novo zakonodajo, ki se osredotoča na zaščito temeljnih pravic, demokracije, pravne države in okoljske trajnosti, postavlja Evropo kot vodilno pozicijo na področju UI.
Prepovedane Aplikacije:
Z namenom varovanja pravic državljanov uredba prepoveduje določene aplikacije UI. Sem spadajo uporaba biometričnih klasifikacijskih sistemov na podlagi občutljivih značilnosti in neusmerjeno zajemanje obraznih podob za ustvarjanje baz prepoznavanja obrazov. Prepovedani so tudi prepoznavanje čustev na delovnih mestih in šolah, družbeno ocenjevanje, napovedno policijsko delo, ki temelji izključno na profiliranju, in UI, ki je namenjena manipulaciji človeškega vedenja ali izkoriščanju ranljivosti, v skladu s temi novimi pravili.
Izjeme za Policijo:
Čeprav uredba zavzema trdno stališče pri zagotavljanju varstva pravic posameznikov, priznava potrebo po omejenih izjemah v policijskem delu. Uporaba biometričnih identifikacijskih sistemov (BIS) s strani policijskih organov je običajno prepovedana, razen v specifičnih in jasno opredeljenih scenarijih. Uporaba “v realnem času” BIS zahteva stroge varnostne ukrepe, kot so časovne in geografske omejitve ter izrecno sodno ali upravno pooblastilo. Uporaba takšnih sistemov po dejanju (“po-oddaljen BIS”) velja za visoko tvegano in zahteva sodno pooblastilo, povezano s kaznivim dejanjem.
Obveznosti za Visoko Tvegane Sisteme:
Z namenom obravnave morebitne škode za zdravje, varnost, temeljne pravice, okolje, demokracijo in pravno državo uredba nalaga jasne obveznosti visoko tveganim sistemom UI. Ta zahteva se nanaša na kritično infrastrukturo, izobraževanje, poklicno usposabljanje, zaposlovanje, bistvene javne in zasebne storitve (npr. zdravstvo, bančništvo), določene policijske sisteme, migracije in upravljanje meja ter na pravosodje in demokratične procese (npr. volilni vpliv). Visoko tvegani sistemi morajo opraviti presojo in omiliti tveganje, vzdrževati celovite evidence uporabe, vključiti transparentnost in natančnost, ter zagotoviti nadzor s strani človeka. Poleg tega imajo državljani pravico vložiti pritožbo v zvezi s sistemi UI in prejeti razlage o odločitvah, ki vplivajo na njihove pravice, kadar so vključeni visoko tvegani sistemi UI.
Zahteve za Transparentnost:
Uredba poudarja potrebo po transparentnosti pri splošnih sistemih UI in modelih, ki jih podpirajo. Te zahteve vključujejo skladnost z zakonodajo EU o avtorskih pravicah in objavo podrobnih povzetkov vsebine, uporabljene za usposabljanje. Zlasti močni modeli splošne UI, ki lahko predstavljajo sistemsko tveganje, bodo podvrženi dodatnim zahtevam, kot so evalvacije modela, analiza in omilitev sistemskih tveganj ter zagotavljanje poročil o incidentih. Poleg tega uredba zahteva jasno označevanje umetnih ali manipuliranih obraznih podob, zvočnih ali video vsebin (“deepfakes”).
Ukrepi za Podporo Inovacijam in MSP-ji:
Zavedajoč se pomembnosti spodbujanja inovacij, uredba pooblašča nacionalne organe, da vzpostavijo regulatorne peskovnike in olajšajo testiranje v realnem svetu. Te določbe si prizadevajo omogočiti malim in srednje velikim podjetjem (MSP-jem) in začetnikom, da razvijajo in izobražujejo inovativne tehnologije UI preden jih privedejo na trg.
Pogosta vprašanja:
V: Kakšen je namen nedavno potrjene ureditve na področju UI?
O: Uredba na področju UI si prizadeva zaščititi temeljne pravice, demokracijo, pravno državo in okoljsko trajnost ter hkrati spodbuditi inovacije na področju UI.
V: Ali obstajajo prepovedane aplikacije UI po novi uredbi?
O: Da, določene aplikacije UI, kot so biometrični klasifikacijski sistemi na podlagi občutljivih značilnosti, neusmerjeno zajemanje obraznih podob ter prepoznavanje čustev na delovnih mestih in šolah, družbeno ocenjevanje, napovedno policijsko delo, ki temelji izključno na profiliranju, in UI, zasnovana za manipulacijo človeškega vedenja ali izkoriščanje ranljivosti, so vsi prepovedani.
V: Ali obstajajo kakšne izjeme za policijske organe?
O: Da, za uporabo biometričnih identifikacijskih sistemov (BIS) v policijski dejavnosti obstajajo omejene izjeme, če se izpolnijo strogi varnostni ukrepi, vključno z izrecnim pooblastilom in upoštevanjem časovnih in geografskih omejitev.
V: Kakšne obveznosti so naložene visoko tveganim sistemom UI?
O: Visoko tvegani sistemi UI morajo opraviti presojo in omiliti tveganje, vzdrževati celovite evidence uporabe, zagotoviti transparentnost in natančnost ter vključiti nadzor s strani človeka. Državljani imajo tudi pravico vložiti pritožbo in prejeti razlage o odločitvah, ki jih vplivajo visoko tvegani sistemi UI.
V: Kako uredba obravnava transparentnost?
O: Splošni sistemi UI morajo upoštevati zahteve transparentnosti, vključno s skladnostjo z avtorskimi pravicami, objavo podrobnih povzetkov usposabljanja ter jasnim označevanjem umetnih ali manipuliranih vsebin (“deepfakes”).
V: Kako uredba podpira inovacije ter MSP-je?
O: Uredba omogoča vzpostavitev regulatornih peskovnikov in testiranje v realnem svetu na nacionalni ravni, ki MSP-jem in začetnikom nudita priložnosti za razvoj in usposabljanje inovativnih tehnologij UI.
Zaključek:
S prvo inovativno ureditvijo na področju UI Evropa izvaja pomemben korak k zagotavljanju odgovornega razvoja in uporabe umetne inteligence. Z ustvarjanjem ravnovesja med varovanjem temeljnih pravic in spodbujanjem inovacij se Evropa postavlja kot globalni voditelj na tem hitro spreminjajočem se področju.
The source of the article is from the blog klikeri.rs