Slovenian: Parlament sprejme obsežni zakon o umetni inteligenci za varovanje pravic in spodbujanje inovacij

Danes je parlament sprejel prelomno zakonodajo, Zakon o umetni inteligenci, s čimer se začenja nova doba regulacije tehnologije. S premočno večino 523 glasov za, 46 proti in 49 vzdržanih glasov, zakonodaja stremi k ohranjanju ravnotežja med varovanjem temeljnih pravic, demokracije in okolja ter spodbujanjem inovacij ter pozicioniranju Evrope kot globalnega voditelja na področju umetne inteligence.

Zakon uvaja obsežen nabor obveznosti za sisteme umetne inteligence glede na njihovo potencialno tveganje in stopnjo vpliva. S tem, ko določa prepovedi določenih aplikacij, ki kršijo pravice državljanov, zakonodaja proaktivno prispeva k zaščiti individualnih svoboščin. Na primer, zakon prepoveduje uporabo biometričnih kategorizacijskih sistemov, ki temeljijo na občutljivih značilnostih, in naključno zbiranje obraznih slik z interneta ali nadzornih posnetkov za ustvarjanje podatkovnih zbirk za prepoznavanje obrazov.

Enako zakon prepoveduje uporabo umetne inteligence za prepoznavanje čustev na delovnem mestu in šolah, uvedbo sistemov ocenjevanja državljanov, napovedno policijsko delo, ki temelji izključno na profiliranju, ter umetno inteligenco, ki manipulira človeško vedenje ali izkorišča ranljivosti.

Ob ohranjanju zaveze varovanju pravic državljanov, zakonodaja priznava izjeme za organe kazenskega pregona. Sistemi biometrične identifikacije se lahko uporabljajo ob strogih varnostnih ukrepih v specifičnih in dobro opredeljenih situacijah. Na primer, ciljno iskanje pogrešane osebe ali preprečevanje terorističnega napada lahko zahtevata uporabo sistemov biometrične identifikacije v realnem času. Kljub temu se njihova uporaba omejuje na določen čas in prostor ter zahteva predhodno sodno ali upravno odobritev. Kakršnakoli retrospektivna uporaba takšnih sistemov velja za visoko tvegano in mora biti predmet odobritve sodišča zaradi povezave s kaznivimi dejanji.

Zakon tudi določa jasne obveznosti za visoko tvegane sisteme umetne inteligence, ki imajo potencialno velik vpliv na zdravje, varnost, temeljne pravice, okolje, demokracijo in pravno državo. Tehnološki sistemi, ki segajo od kritične infrastrukture do izobraževanja, poklicnega usposabljanja in ključnih javnih in zasebnih storitev, kot so zdravstvo in bančništvo, morajo opraviti oceno tveganja, voditi evidence uporabe, zagotoviti preglednost in natančnost ter vključiti nadzor s strani človeka. Prav tako morajo posamezniki, ki jih prizadenejo sistemi umetne inteligence, imeti pravico do vložitve pritožbe in prejeti pojasnila o odločitvah, ki so bile sprejete na podlagi teh sistemov.

Z namenom zagotavljanja odgovornosti in preglednosti zakon uvaja zahteve za splošne sisteme umetne inteligence in temeljne modele, na katerih temeljijo. Narekuje skladnost z evropskim pravom avtorske pravice, razkritje podrobnih povzetkov vsebine, uporabljene za usposabljanje modelov umetne inteligence, in jasno označevanje umetnih ali manipuliranih slik, zvokov ali video vsebin za enostavno identifikacijo.

V prizadevanju za podporo inovacijam ter spodbujanje rasti malih in srednje velikih podjetij (MSP), zakon poudarja ustvarjanje kontroliranih testnih in preskusnih prostorov. Ti prostori, dostopni na nacionalni ravni, omogočajo MSP-jem in začetnikom razvoj in usposabljanje njihovih rešitev umetne inteligence pod realnimi pogoji pred komercializacijo.

Sprejem Zakona o umetni inteligenci predstavlja prelomni trenutek pri regulaciji tehnologije umetne inteligence. S tem, ko ohranja fini ravnotežje med varovanjem temeljnih pravic in spodbujanjem inovacij, Evropa odpira pot etičnemu in odgovornemu razvoju umetne inteligence. Zakon določa globalen precedens, zagotavlja, da bo umetna inteligenca ostala orodje napredka, hkrati pa varuje vrednote, ki ležijo v osnovi naših družb.

ZAČETEK POGOSTO ZASTAVLJENIH VPRAŠANJ

Kakšen je namen Zakona o umetni inteligenci?

Zakon o umetni inteligenci si prizadeva za zaščito temeljnih pravic, demokracije, pravne države in okolja ter spodbujanje inovacij ter pozicioniranje Evrope kot globalnega voditelja na področju tehnologije umetne inteligence.

Katere aplikacije so prepovedane po zakonu?

Zakon prepoveduje aplikacije umetne inteligence, ki kršijo pravice državljanov, vključno z biometričnimi kategorizacijskimi sistemi, naključno zbiranje obraznih slik za podatkovne baze prepoznavanja obrazov, prepoznavanje čustev na delovnem mestu in šolah, sistemi ocenjevanja državljanov, napovedno policijsko delo, ki temelji izključno na profiliranju, in umetna inteligenca, ki manipulira človeško vedenje ali izkorišča ranljivosti.

Ali obstajajo izjeme za organe kazenskega pregona?

Da, organi kazenskega pregona imajo določene izjeme, ki so pod strogimi varnostnimi ukrepi. Na primer, ciljno iskanje pogrešanih oseb ali preprečevanje terorističnih napadov lahko vključuje uporabo sistemov za biometrično identifikacijo v realnem času. Vendar je potrebno predhodno sodno ali upravno dovoljenje, in retrospektivna uporaba takih sistemov je predmet sodne odobritve.

Kakšne obveznosti veljajo za visoko tvegane sisteme umetne inteligence?

Visoko tvegani sistemi umetne inteligence, ki lahko imajo pomemben vpliv na različna področja družbe, morajo oceniti in omiliti tveganja, voditi evidence uporabe, zagotoviti preglednost in natančnost, vključiti nadzor s strani človeka in omogočiti posameznikom vložitev pritožbe ter prejeti pojasnila o odločitvah, sprejetih s strani teh sistemov.

Kakšne zahteve veljajo za preglednost v sistemih umetne inteligence?

Splošni sistemi umetne inteligence in njihovi temeljni modeli morajo izpolnjevati zahteve preglednosti, vključno s skladnostjo z evropskim pravom avtorske pravice, razkritjem povzetkov podatkov, uporabljenih za usposabljanje modelov umetne inteligence, ter jasnim označevanjem umetnih ali manipuliranih slik, zvokov ali video vsebin.

Kakšni ukrepi podpirajo inovacije in MSP?

Zakon poudarja ustvarjanje kontroliranih testnih in preskusnih prostorov za MSP in začetnike, kar jim omogoča razvoj in usposabljanje inovativnih rešitev umetne inteligence pod realnimi pogoji pred komercializacijo.

Za več informacij lahko obiščete glavno domeno Evropske unije:
europa.eu

[vdelano]https://www.youtube.com/embed/BXzkn-QjoZE[/vdelano]

Privacy policy
Contact