V izjemnem razvoju so poslanci Evropskega parlamenta (EP) podprli začasni dogovor o Zakonu o umetni inteligenci, kar predstavlja pomemben korak naprej pri zagotavljanju varnosti in spoštovanju temeljnih pravic. Odbor za notranji trg in odbor za državljanske svoboščine sta z veliko večino glasov podprla dogovor med državami članicami EU in parlamentom glede te pomembne zakonodaje.
Glavni cilj tega predpisa je varovanje demokratičnih načel, vladavine prava, temeljnih pravic in okoljske trajnosti pred morebitnimi tveganji, povezanimi z AI-tehnologijami visokega tveganja. Z vzpostavljanjem jasnih obveznosti, ki temeljijo na stopnji vpliva in potencialnih tveganjih, zakonodaja skuša najti ravnotežje med zaščito državljanov in spodbujanjem inovacij z namenom utrditve vodstva Evrope na področju umetne inteligence.
Ključno področje zakonodaje je prepoved določenih aplikacij AI, ki predstavljajo grožnjo za posamezne pravice. To vključuje prepoved biometričnih kategorizacijskih sistemov, ki temeljijo na občutljivih značilnostih, neusmerjenega pridobivanja slik obraza za baze prepoznavanja obraza, prepoznavanja čustev na delovnih mestih in šolah, družbenega ocenjevanja, prediktivnega policijskega dela na podlagi profiliranja ter umetne inteligence, ki manipulira človeško vedenje ali izkorišča ranljivosti.
Zakonodaja prav tako naslavlja uporabo sistemov biometrične identifikacije s strani policijskih organov. Čeprav je splošno načelo prepoved takih sistemov, se izjemam dovoli v določenih situacijah, kot je iskanje pogrešanih oseb ali preprečevanje terorističnih napadov. Vendar so vzpostavljeni strogi varovalni ukrepi, vključno z omejenim trajanjem in geografskim obsegom ter predhodno sodno ali upravno odobritvijo.
Poleg tega zakonodaja določa obveznosti za sisteme AI visokega tveganja, ki lahko pomembno vplivajo na zdravje, varnost, temeljne pravice, okolje in demokratične procese. To vključuje kritično infrastrukturo, izobraževanje, poklicno usposabljanje, zaposlovanje, ključne storitve, policijske organe, upravljanje migracij in mej, pravosodje ter demokratične procese. Posamezniki, ki so prizadeti s strani sistemov AI visokega tveganja, imajo pravico do vložitve pritožb in prejemanje pojasnil glede odločitev, ki vplivajo na njihove pravice.
Zakonodaja za spodbujanje transparentnosti zahteva, da morajo sistemi AI splošne uporabe izpolnjevati določene zahteve in se skladati z avtorskimi pravicami EU med usposabljanjem. Močnejši modeli, ki bi lahko predstavljali sistemska tveganja, bodo podvrženi dodatni oceni, oceni tveganja in obveznostim poročanja. Prikrojeni multimedijski vsebini, kot so “deepfake” posnetki, mora biti jasno označena.
Dogovor vsebuje tudi ukrepe za spodbujanje inovacij, zlasti za mala in srednje velika podjetja (MSP) ter začetnike. Na nacionalni ravni se bodo vzpostavili regulatorni peskovniki in testiranja v realnem svetu, ki bodo omogočali priložnosti za razvoj in usposabljanje inovativnih tehnologij AI za MSP in začetnike pred njihovo uvedbo na trgu.
Naslednji koraki zakonodaje vključujejo uradno sprejetje med prihajajočo sejo Parlamenta in zadnjo podporo Sveta. Ko začne veljati, bo zakonodaja v celoti uporabljiva v 24 mesecih, nekatere določbe pa bodo uveljavljene prej. Ta prelomni dogovor postavlja temelje za odgovorni razvoj in etično utemeljeno umetno inteligenco v okviru Evropske unije.
Pogosta vprašanja:
1. Kateri je namen Zakona o umetni inteligenci?
Glavni cilj zakona je zaščititi demokratična načela, vladavino prava, temeljne pravice in okoljsko trajnost pred morebitnimi tveganji, povezanimi z AI-tehnologijami visokega tveganja.
2. Katere so nekatere primeri AI aplikacij, ki so prepovedane po zakonodaji?
Zakonodaja prepoveduje določene AI aplikacije, ki predstavljajo grožnjo za posamezne pravice, vključno z biometričnimi kategorizacijskimi sistemi, ki temeljijo na občutljivih značilnostih, neusmerjenim pridobivanjem slik obraza za baze prepoznavanja obraza, prepoznavanjem čustev na delovnih mestih in šolah, družbenim ocenjevanjem, prediktivnim policijskim delom na podlagi profiliranja ter umetno inteligenco, ki manipulira človeško vedenje ali izkorišča ranljivosti.
3. Ali obstajajo izjeme za uporabo sistemov biometrične identifikacije s strani policijskih organov?
Čeprav je splošno načelo prepoved takih sistemov, se izjemam dovoli v določenih situacijah, kot je iskanje pogrešanih oseb ali preprečevanje terorističnih napadov. Vendar so vzpostavljeni strogi varovalni ukrepi, vključno z omejenim trajanjem in geografskim obsegom ter predhodno sodno ali upravno odobritvijo.
4. Kateri obveznosti so navedene za sisteme AI visokega tveganja?
Zakonodaja določa obveznosti za sisteme AI visokega tveganja, ki lahko pomembno vplivajo na zdravje, varnost, temeljne pravice, okolje in demokratične procese. To vključuje kritično infrastrukturo, izobraževanje, poklicno usposabljanje, zaposlovanje, ključne storitve, policijske organe, upravljanje migracij in mej, pravosodje ter demokratične procese.
5. Kako zakonodaja spodbuja transparentnost v sistemih umetne inteligence?
Za spodbujanje transparentnosti morajo sistemi umetne inteligence splošne uporabe izpolnjevati določene zahteve in se skladati z avtorskimi pravicami EU med usposabljanjem. Močnejši modeli, ki bi lahko predstavljali sistemska tveganja, bodo podvrženi dodatni oceni, oceni tveganja in obveznostim poročanja. Prikrojena multimedijska vsebina, kot so “deepfake” posnetki, mora biti jasno označena.
6. Katere ukrepe vključujejo za podporo inovacijam?
Dogovor vključuje ukrepe za podporo inovacijam, zlasti za mala in srednje velika podjetja (MSP) ter začetnike. Na nacionalni ravni se bodo vzpostavili regulatorni peskovniki in testiranja v realnem svetu, ki bodo omogočali priložnosti za razvoj in usposabljanje inovativnih tehnologij AI za MSP in začetnike pred njihovo uvedbo na trgu.
7. Kateri so naslednji koraki za zakonodajo?
Naslednji koraki za zakonodajo vključujejo uradno sprejetje med prihajajočo sejo Parlamenta in zadnjo podporo Sveta. Ko začne veljati, bo zakonodaja v celoti uporabljiva v 24 mesecih.
Opredelitve ključnih izrazov:
– Zakon o umetni inteligenci: Zakonodajni predpis, namenjen varovanju demokratičnih načel, temeljnih pravic in okoljske trajnosti pred morebitnimi tveganji, povezanimi z AI-tehnologijami visokega tveganja.
– Biometrični kategorizacijski sistemi: AI-sistemi, ki klasificirajo posameznike na podlagi občutljivih značilnosti, kot so značilnosti obraza ali fizične lastnosti.
– Baze prepoznavanja obraza: Zbirke slik obraza, ki se uporabljajo za identifikacijo posameznikov prek AI-algoritmov.
– Prepoznavanje čustev: Uporaba AI za analizo izrazov na obrazu in določitev čustvenih stanj.
– Družbeno ocenjevanje: Sistem, ki s pomočjo AI ocenjuje in razvršča posameznike na podlagi njihovega socialnega vedenja in dejavnosti.
– Prediktivno policijsko delo: Uporaba AI-algoritmov za napovedovanje in preprečevanje zločinov na podlagi profiliranja.
– Deepfake posnetki: Prikrojena multimedijska vsebina, kot so videoposnetki ali slike, ustvarjeni z uporabo AI za lažno prikazovanje posameznikov ali dogodkov.
Predlagane povezave:
– Zakon o digitalnih storitvah: Zagotavljanje varnega in odgov
The source of the article is from the blog radiohotmusic.it