Digitalni krajolik doživio je duboku evoluciju s uzdizanjem umjetne inteligencije (AI), koja utječe na naše osobne i profesionalne živote. Uvođenje ChatGPT-a 2022. godine označilo je prekretnicu, privlačeći povećanu pozornost vlada i regulatornih tijela o tome kako najbolje upravljati rastućom AI tehnologijom. U značajnom potezu, Europska unija (EU) donijela je zakon poznat kao Zakon o umjetnoj inteligenciji (AI Act) u ožujku 2024., signalizirajući prvi značajan napor za regulaciju korištenja AI-a kroz članice EU-a.
AI Act: Pravovremena regulacija za AI sustave
Na snagu stupajući od datuma objave u Službenom glasilu, AI Act postaje zakon 20 dana nakon ratifikacije od strane Europskog vijeća. Većina odredbi AI Act-a, međutim, bit će primjenjive tek nakon dvije godine, s određenim izuzecima koji stupaju na snagu ranije. Primjetno je da će regulacije koje se odnose na zabranjene sustave stupiti na snagu već nakon šest mjeseci, dok će obveze za opće primjene AI aplikacija započeti unutar godinu dana. Ovi vremenski okviri pružaju tvrtkama i vlastima dovoljno vremena za implementaciju novih regulacija.
AI Act uvodi regulatorni okvir zasnovan na procjeni rizika, fokusirajući se na sustave smatrane visokorizičnima. To obuhvaća zabranjene prakse poput sustava za manipulaciju ponašanjem, društvene ocjene kreditnog rejtinga, prediktivno policijsko djelovanje, real-time biometrijsku identifikaciju i sustave za prepoznavanje emocija. Također obuhvaća visokorizična područja kao što su autonomna vozila i sustavi korišteni za procjenu kreditne sposobnosti pojedinca.
Obveze dionika AI sustava
Zakon stavlja bitne obveze na proizvođače, uvoznike i distributere AI sustava. Proizvođači su odgovorni za određivanje kategorije svog AI sustava i osiguranje usklađenosti prije implementacije. Također moraju obaviti potrebne prilagodbe sustava, nadzirati operacije i pridržavati se zahtjeva za dokumentacijom. Uvoznici moraju provjeriti da li AI sustavi ispunjavaju obveze dokumentacije prema AI Act-u i osigurati sukladnost prije distribucije. Distributeri, s druge strane, obvezni su ne samo provjeriti oznaku sukladnosti CE oznake, već i osigurati da se pravilna dokumentacija i upute prilože uz AI sustave.
Također, za AI sustave koji komuniciraju s ljudskim korisnicima, transparentnost je ključna. Korisnici trebaju biti obaviješteni o svom angažmanu s entitetom AI-a, a sadržaj koji je sintetički generiran mora biti eksplicitno označen. Sukladnost s Općom uredbom o zaštiti podataka (GDPR) obvezna je kada se osobni podaci obrađuju unutar AI sustava.
Kao dio provedbe AI Act-a, uspostava nadzornih tijela u svim državama članicama EU-a je u tijeku kako bi se osigurala usklađenost s regulacijom. Konačno, u slučaju nepoštivanja, AI Act propisuje kaznene mjere, s mogućim kaznama koje mogu doseći do 35 milijuna eura ili 7% globalnog godišnjeg prometa tvrtke – nadmašujući kazne prema GDPR-u – potičući time tvrtke da se pridržavaju odredbi AI Act-a.
Ključna pitanja i odgovori:
P: Koje su neke od ključnih izazova povezanih s AI Act-om?
O: Ključni izazovi povezani s AI Act-om uključuju potrebu za ravnotežom inovacija i regulacije, prilagodljivost zakona brzo-evoluirajućim AI tehnologijama, te kompleksnosti u definiranju i provođenju pravila za tehnologiju koja se razlikuje u svojim primjenama preko različitih sektora.
P: Koje kontroverze okružuju AI Act?
O: Kontroverze mogu proizaći od dionika zabrinutih zbog suzbijene inovacije uslijed regulatornih tereta, kao i rasprava o etičkim implikacijama AI praksi, poput masovnog nadzora i potencijala za algoritamsku diskriminaciju koja može biti u suprotnosti s temeljnim principima ljudskih prava.
Prednosti i nedostaci:
Prednosti AI Act-a uključuju:
– Promociju etičke AI: Regulacija potiče razvoj AI na način koji poštuje ljudska prava i demokratske vrijednosti.
– Zaštitu potrošača: Cilj je zaštititi korisnike od štetnih AI praksi, jačajući povjerenje i sigurnost korisnika.
– Pravnu jasnoću: Tvrtke sada imaju pravnu sigurnost o implementaciji AI-a, što može olakšati ulaganja i inovacije na način koji je usklađen s vrijednostima EU-a.
Međutim, nedostaci mogu uključivati:
– Teškoće usklađivanja: Može biti značajnih troškova za tvrtke u pridržavanju ovih novih regulacija, posebno za nove tvrtke i manje tvrtke koje možda nedostaju resursi.
– Globalnu konkurentnost: EU tvrtke mogu biti u konkurentskom zaostatku u usporedbi s međunarodnim konkurentima koji djeluju u regijama s opuštenijim regulacijama.
– Ograničenu fleksibilnost: Zakon ne mora pratiti napredak AI-a, što može dovesti do regulacija koje brzo zastare i koje mogu otežati novo AI napredovanje.
Da biste saznali više o zakonodavnim dokumentima EU-a, glavna web stranica Europske unije pouzdan je izvor: Europska unija. Uvijek provjerite da li je pruženi URL ispravan i vodi do odgovarajućeg domena za točne i vjerodostojne informacije.
Za sve koji su uključeni u razvoj, distribuciju, uvoz ili korištenje AI sustava unutar EU-a važno je pažljivo proučiti AI Act i po potrebi potražiti pravno savjetovanje kako bi se osiguralo usklađivanje. Budući da se krajolik AI-a razvija, bit će potrebno kontinuirano praćenje implikacija i učinkovitosti AI Act-a, te možda će biti potrebne prilagodbe kako bi se održala ravnoteža između inovacija i regulacije.