Įžanga:
Neseniai priimti reglamentai, po derybų su valstybėmis narėmis, sulaukė didelio pritarimo ir siekia spręsti galimus su dirbtine intelektika (AI) susijusius pavojus, tuo pačiu skatinant inovacijas. Šie nauji įstatymai, siekiantys apsaugoti pagrindines teises, demokratiją, teisinės valstybės principą ir aplinkosaugą, padeda Europai iškilti į priekį šioje AI srityje.
Uždraustos taikymo sritys:
Norint apsaugoti piliečių teises, reglamentacija draudžia tam tikrą AI taikymą. Tai apima biometrinius kategorizavimo sistemas, paremtas jautriomis charakteristikomis, neribotą veido atvaizdų skaitymą siekiant sukurti veido atpažinimo duomenų bazes. Darbinių vietų ir mokyklų emocijų atpažinimą, socialinį įvertinimą, prognozuojamą policiją, remiantis tik profilio analize, bei AI, skirtą manipuliuoti žmogaus elgesiu ar išnaudoti pažeidžiamumus, taip pat draudžiama pagal šiuos naujus įstatymus.
Išimtys teisėsaugai:
Nors reglamentacija tvirtai laikosi požiūrio, kad būtina užtikrinti asmenų teisių apsaugą, ji pripažįsta, kad teisėsaugos institucijos gali turėti ribotų išimčių poreikį. Biometrinių tapatybės nustatymo sistemų (RBI) naudojimas apskritai draudžiamas, išskyrus konkrečias ir aiškiai apibrėžtas situacijas. „Tiesioginio” RBI diegimas reikalauja griežtų garantijų, tokias kaip laiko ir geografiniai apribojimai, taip pat išsamesnis teismo ar administracinis leidimas. Tokių sistemų naudojimas „prieš tai buvusiam RBI” laikomas didelio rizikos lygio ir reikalauja teismo leidimo, kuris susijęs su baudžiamuoju nusikaltimu.
Pareigos aukso rizikos sistemoms:
Siekiant išvengti galimų žalos sveikatai, saugumui, pagrindinėms teisėms, aplinkai, demokratijai ir teisinės valstybės principui, reglamentacija įpareigoja aukšto rizikos AI sistemų aiškias pareigas. Šie reikalavimai taikomi kritinėms infrastruktūroms, švietimui, profesiniam mokymui, darbo rinkai, būtiniems viešiems ir privatiems paslaugoms (pvz., sveikatos apsaugai, bankininkystei), kai kurioms teisėsaugos sistemoms, migracijai ir sienų valdymui, teisingumui ir demokratiniams procesams (pvz., rinkimų įtakos). Aukšto rizikos sistemoms būtina atlikti rizikos vertinimą ir mažinimą, palaikyti išsamią naudojimo žurnalizaciją, įtraukti skaidrumą ir tikslumą bei užtikrinti žmogaus priežiūrą. Be to, piliečiai turi teisę pateikti skundus dėl AI sistemų ir gauti paaiškinimus dėl sprendimų, kuriuos veikia jų teises, kai įsitraukia aukšto rizikos AI sistemos.
Skaidrumo reikalavimai:
Reglamentacija pabrėžia skaidrumo poreikį bendro naudojimo AI (GPAI) sistemose ir jas remiančiuose modeliuose. Šie reikalavimai apima atitikimą ES autorių teisės įstatymams ir išsamesnį turinio naudojimo mokymui santraukų paskelbimą. Ypač galingiems GPAI modeliams, kurie gali kelti sistemines grėsmes, bus taikomi papildomi reikalavimai, tokie kaip modelių vertinimas, sisteminės rizikos analizė ir mažinimas bei incidentų ataskaitos teikimas. Be to, reglamentacija nurodo aiškų dirbtinių ar manipuliuotų vaizdų, garso ar vaizdo turinio žymėjimą („deepfakes”).
Priemonės, skatinančios inovacijas ir SME įmones:
Pripažįstama inovacijų svarba, reglamentacija suteikia valstybėms narėms galimybę įsteigti reguliavimo smėlio dėžutes ir palengvinti realaus pasaulio testavimą. Šios nuostatos siekia suteikti galimybę mažoms ir vidutinėms įmonėms bei pradedančiosioms įmonėms kurti ir mokyti inovatyvias AI technologijas prieš leidžiant jas į rinką.
DUK:
K: Koks yra neseniai ratifikuoto AI reglamento tikslas?
A: AI reglamentas siekia apsaugoti pagrindines teises, demokratiją, teisinę valstybę ir aplinkos tvarumą, tuo pačiu metu skatinant inovacijas AI srityje.
K: Ar po naujuoju reglamentu yra uždraustų AI taikymo sričių?
A: Taip, tam tikri AI taikymai, tokie kaip biometriniai kategorizavimo sistemos, paremtos jautriomis charakteristikomis ir veido atvaizdų nesiekiant identifikuoti asmenų, taip pat šių sistemų naudojimas darbo vietose ir mokyklose, socialinis įvertinimas, prognozuojama policija remiantis tik profiliavimu ir AI, kuris skirtas manipuliuoti žmogaus elgesiu ar išnaudoti pažeidžiamumus, yra visiškai uždrausti.
K: Ar yra kokių nors išimčių teisėsaugos institucijoms?
A: Taip, egzistuoja ribotos išimtys biometrinių tapatybės nustatymo sistemų (RBI) naudojimui teisėsaugos institucijose, jei laikomasi griežtų garantijų, tokių kaip išsami leidimų arba administracinio leidimo gavimas bei laiko ir geografiniai apribojimai.
K: Kokios pareigos taikomos aukšto rizikos AI sistemoms?
A: Aukšto rizikos AI sistemoms būtina patekti rizikos vertinimą ir mažinimą, palaikyti išsamią naudojimo žurnalizaciją, užtikrinti skaidrumą ir tikslumą bei įtraukti žmogaus priežiūrą. Piliečiai taip pat turi teisę teikti skundus ir gauti paaiškinimus apie sprendimus, įtakotus aukšto rizikos AI sistemomis.
K: Kaip reglamentacija spręs skaidrumo klausimus?
A: Bendro naudojimo AI sistemoms reikia laikytis skaidrumo reikalavimų, įskaitant ES autorių teisės įstatymų laikymą, mokymo turinio santraukų paskelbimą ir aiškų dirbtinių ar manipuliuotų turinio vaizdų, garso ar vaizdo turinio žymėjimą („deepfakes”).
K: Kaip reglamentacija remia inovacijas ir SME įmones?
A: Reglamentacija suteikia galimybę įsteigti reguliavimo smėlio dėžutes ir realaus pasaulio testavimą nacionaliniu lygmeniu, suteikiant SME įmonėms bei pradedančiosioms įmonėms galimybę kurti ir mokyti inovatyvias AI technologijas.
Išvados:
Su šiais permainų reglamentais Europa žengia svarbų žingsnį užtikrinant atsakingą AI plėtrą ir naudojimą. Pasiekiant pusiausvyrą tarp pagrindinių teisių apsaugos ir inovacijų skatinimo, Europa patenka į globalų lyderį šioje sparčiai besivystančioje srityje.
Šaltiniai:
[URL of the domain]
Apibrėžimai:
– Dirbtinė intelektika (AI): Žmogui būdingos intelektualinės galimybės imituojančios mašinos, kurios programuotos mąstyti ir mokytis kaip žmonės.
– Biometrinės kategorizavimo sistemos: Sistemos, naudojančios biometrinius duomenis, tokius kaip veido bruožai, pirštų atspaudai ar vyzdžio nuskaitymo sistemos individams kategorizuoti.
– Veido atpažinimo duomenų bazės: Duomenų bazės, kuriuose saugomi veido atvaizdai asmenims identifikuoti.
– Emocijų atpažinimas: AI sistemų galimybė nustatyti ir interpretuoti žmogaus emocijas, remiantis veido išraiškomis, balso tonu ar kitomis fiziologinėmis žmogaus savybėmis.
– Prognozuojama policija: AI algoritmų naudojimas duomenų analizei ir nusikaltimų modelių prognozavimui ar galimų nusikaltėlių nustatymui.
– Profiliavimas: Procesas, kai individai analizuojami ir kategorizuojami pagal jų asmenines, socialines ar elgesio charakteristikas.
– Skaidrumas: Principas, kuriuo užtikrinama aiški ir suprantama informacija apie technologiją, algoritmus ir sprendimų priėmimo procesus, naudojamus AI sistemose.
– Bendro naudojimo AI (GPAI): AI sistemos, sukurtos atlikti įvairias užduotis ir funkcijas.
– Deepfakes: Dirbtinių ar manipuliuotų vaizdų, garso ar vaizdo turinio žymėjimas, kurie atrodo kaip tikri, tačiau buvo pakeisti ar sukurti naudojant AI technologijas.
Susiję nuorodos:
– Kūrimas ir inovacijos Europoje
– Reguliavimo smėlio dėžutės Europoje
– Europos Komisijos AI strategija
– Baltasis knyga apie dirbtinę inteligenciją – Europos Komisija
The source of the article is from the blog anexartiti.gr