Parlament je danes sprejel prelomno zakonodajo, t. i. Zakon o umetni inteligenci (AI), ki uvaja novo obdobje tehnološke regulacije. Z veliko večino 523 glasov za, 46 proti in 49 vzdržanih, zakonodaja temelji na vzpostavljanju ravnotežja med zagotavljanjem temeljnih pravic, demokracije in okolja ter spodbujanjem inovacij ter postavljanjem Evrope kot globalnega voditelja na področju AI.
Zakon določa obsežen niz obveznosti za sisteme umetne inteligence glede na njihova morebitna tveganja in vpliv. Z opredelitvijo prepovedi določenih aplikacij, ki kršijo pravice državljanov, zakonodaja s proaktivnim pristopom varuje posameznikove svoboščine. Na primer, zakon prepoveduje uporabo sistemov biometrične kategorizacije, ki temeljijo na občutljivih značilnostih, in neizbirno zbiranje obraznih slik s spleta ali nadzornih posnetkov za ustvarjanje podatkovnih zbirk prepoznave obrazov.
Podobno zakon prepoveduje uporabo AI za prepoznavanje čustev na delovnih mestih in v šolah, implementacijo sistemov ocenjevanja državljanov, napovedno policijsko delovanje, ki temelji izključno na profiliranju, ter AI, ki manipulira človeško vedenje ali izkorišča ranljivosti.
Ob ohranjanju zavezanosti k varovanju pravic državljanov zakonodaja priznava izjeme za organe kazenskega pregona. Sistemi biometrične identifikacije se lahko uporabljajo pod strogimi varovali v specifičnih in jasno opredeljenih situacijah. Na primer, ciljno iskanje pogrešane osebe ali preprečevanje terorističnega napada lahko zahteva uporabo sistemov realnočasovne biometrične identifikacije. Vendar pa njihova uporaba zahteva omejeno uporabno dobo in mesto ter predhodno sodno ali upravno odobritev. Vsako retrospektivno uporabo takšnih sistemov se šteje za visoko tvegano in mora biti predmet sodne odobritve zaradi povezave s kaznivimi dejanji.
Zakon tudi nalaga jasne obveznosti za visoko tvegane sisteme AI, ki imajo potencial za pomemben vpliv na zdravje, varnost, temeljne pravice, okolje, demokracijo in pravno državo. Od kritične infrastrukture do izobraževanja, poklicnega usposabljanja ter bistvenih javnih in zasebnih storitev, kot so zdravstvo in bančništvo, morajo ti sistemi izvesti ocene tveganja, vzdrževati zapise o uporabi, zagotoviti preglednost in natančnost ter vključiti nadzor s strani ljudi. Poleg tega imajo posamezniki, ki jih prizadenejo sistemi AI, pravico vložiti pritožbe in prejeti pojasnila glede odločitev, sprejetih na podlagi teh sistemov.
Za zagotavljanje odgovornosti in preglednosti zakon določa zahteve za splošne sisteme AI in osnovne modele, na katerih temeljijo. Zahteva skladnost z evropskim avtorskimi pravom, razkritje podrobnih povzetkov vsebine, uporabljene za usposabljanje modelov AI, ter jasno označevanje umetne ali manipulirane slike, zvočnega ali video vsebina za enostavno prepoznavanje.
V podporo inovacijam in spodbujanju rasti malih in srednje velikih podjetij (MSP) poudarek zakona je na ustvarjanju nadzorovanih testnih in preskusnih prostorov. Ti prostori, dostopni na nacionalni ravni, omogočajo MSP-jem in zagonskim podjetjem razvoj in usposabljanje njihovih rešitev umetne inteligence v realnih pogojih pred komercializacijo.
Sprejetje Zakona o umetni inteligenci predstavlja prelomni trenutek v regulaciji tehnologije AI. S subtilnim ravnovesjem med varovanjem temeljnih pravic in spodbujanjem inovacij Evropa tlakuje pot etičnemu in odgovornemu razvoju umetne inteligence. Zakon postavlja globalni precedens in zagotavlja, da ostane AI orodje za napredek ob varovanju vrednot, ki ležijo v osnovi naših družb.
Pogosta vprašanja
The source of the article is from the blog mendozaextremo.com.ar