Digitalni krajolik doživio je duboku evoluciju s porastom umjetne inteligencije (AI), utječući na naše osobne i profesionalne živote. Uvođenje ChatGPT-a 2022. godine označilo je prekretnicu, privlačeći veću pozornost vladinih i regulatornih tijela o tome kako najbolje upravljati rastućom tehnologijom AI. U znakovitom potezu, Europska unija (EU) donijela je zakonodavni akt poznat kao Zakon o umjetnoj inteligenciji (AI Act) u ožujku 2024., označavajući prvi značajan napor za reguliranje korištenja AI tehnologije u državama članicama EU.
Zakon o umjetnoj inteligenciji: Pravodobna regulacija za AI sustave
Na snagu će stupiti 20 dana nakon ratifikacije od strane Europskog vijeća. Većina odredbi Zakona o umjetnoj inteligenciji bit će primjenjive tek nakon dvije godine, s nekim izuzecima koji će stupiti na snagu ranije. Posebno, propisi o zabranjenim sustavima stupit će na snagu već u roku od šest mjeseci, a obveze za AI aplikacije opće namjene počet će se primjenjivati u roku od jedne godine. Ovi vremenski okviri daju tvrtkama i nadležnim tijelima dovoljno vremena za implementaciju novih propisa.
AI Act uvodi regulatorni okvir zasnovan na procjeni rizika, fokusirajući se na sustave koji se smatraju visokorizičnima. To uključuje zabranjene prakse poput sustava za manipulaciju ponašanja, socijalne kreditne rejtinge, prediktivno policijsko djelovanje, identifikaciju u stvarnom vremenu pomoću biometrije i sustave za prepoznavanje emocija. Također obuhvaća visokorizična područja poput autonomnih vozila i sustava korištenih za procjenu kreditne sposobnosti pojedinca.
Obveze za dionike AI sustava
Zakon nameće temeljne obveze proizvođačima, uvoznicima i distributerima AI sustava. Proizvođači su odgovorni za određivanje kategorije svog AI sustava i osiguranje usklađenosti prije implementacije. Također moraju obavljati potrebne prilagodbe sustava, pratiti operacije i pridržavati se zahtjeva dokumentacije. Uvoznici moraju provjeriti da AI sustavi zadovoljavaju obveze dokumentacije iz Zakona i osigurati usklađenost prije distribucije. Distributeri, s druge strane, obvezni su ne samo provjeriti oznaku CE sukladnosti već i osigurati da se uz AI sustave pruža odgovarajuća dokumentacija i upute.
Kada su AI sustavi u interakciji s ljudskim korisnicima, transparentnost je ključna. Korisnike treba obavijestiti o njihovoj interakciji s AI entitetom, a sintetski generirani sadržaj mora biti eksplicitno označen. Upravljanje sukladno Općoj uredbi o zaštiti podataka (GDPR) također je obvezno prilikom obrade osobnih podataka unutar AI sustava.
Kao dio provođenja Zakona o umjetnoj inteligenciji, uspostava nadzornih tijela u svim državama članicama EU je u tijeku kako bi se osiguralo pridržavanje propisa. Konačno, u slučaju nepoštovanja, AI Act propisuje kaznene mjere, s potencijalnim kaznama do 35 milijuna eura ili 7% globalnog godišnjeg prometa tvrtke – premašujući kazne prema GDPR-u – potičući tako tvrtke da se pridržavaju odredbi AI Act-a.
Ključna pitanja i odgovori:
P: Koje su neke od glavnih izazova povezanih s AI Act-om?
O: Glavni izazovi povezani s AI Act-om uključuju potrebu za balansiranjem inovacija i regulacije, prilagodljivost zakona brzo evoluirajućim AI tehnologijama i složenosti u definiranju i provođenju pravila za tehnologiju koja se široko razlikuje u primjeni kroz različite sektore.
P: Koje kontroverze okružuju AI Act?
O: Kontroverze mogu proizaći iz dionika zabrinutih zbog gušenja inovacija zbog regulatornih opterećenja, kao i rasprava o etičkim implikacijama AI praksi, poput masovne nadzora i potencijala za algoritamsku diskriminaciju koja može biti u suprotnosti s temeljnim načelima ljudskih prava.
Prednosti i nedostaci:
Prednosti AI Act-a uključuju:
– Promociju etičke AI: Regulacija potiče razvoj AI na način koji poštuje ljudska prava i demokratske vrijednosti.
– Zaštitu potrošača: Cilj je zaštiti korisnike od štetnih AI praksi, jačajući povjerenje i sigurnost korisnika.
– Pravnu jasnoću: Tvrtke sada imaju pravnu sigurnost u implementaciji AI, što može olakšati ulaganja i inovacije na način koji se usklađuje s vrijednostima EU.
Međutim, nedostaci mogu uključivati:
– Troškove usklađenosti: Mogu postojati značajni troškovi za tvrtke kako bi se uskladile s novim propisima, posebno za startupe i manje tvrtke koje možda nemaju dovoljno resursa.
– Globalnu konkurentnost: Europske tvrtke možda će biti u nedostatku konkurentske prednosti u odnosu na međunarodne konkurente koji posluju u regijama s blažim propisima.
– Ograničenu fleksibilnost: Zakon možda neće držati korak s napretkom AI, što može dovesti do propisa koji brzo zastarijevaju ili koče nove AI inovacije.
Za više informacija o zakonodavnim dokumentima EU-a, glavna web stranica Europske unije je pouzdan izvor: Europska unija. Uvijek provjerite je li pruženi URL točan i vodi do odgovarajuće domene za točne i legitimne informacije.
Za sve sudionike u razvoju, distribuciji, uvozu ili korištenju AI sustava unutar EU-a važno je pažljivo proučiti AI Act i po potrebi potražiti pravno savjetovanje kako bi se osigurala usklađenost. Kako se digitalni krajolik AI-a razvija, potrebno je kontinuirano praćenje implikacija i učinkovitosti AI Act-a, te moguće prilagodbe kako bi se održao balans između inovacija i regulacije.