U potezu koji ima za cilj podizanje sigurnosnih i etičkih standarda korištenja umjetne inteligencije (AI) u svojim članicama, Europska unija (EU) dodijelila je konačnu potvrdu strožim propisima koji upravljaju sustavima umjetne inteligencije. Ovi propisi imaju za cilj osigurati da su operacije AI što transparentnije, razumljivije, nediskriminirajuće i ekološki prihvatljive.
Inicijativa, poduprta prijedlogom Europske komisije iz 2021. godine, odražava zajednički napor za poboljšanje pouzdanosti AI aplikacija diljem EU. Nakon dugotrajnih pregovora u Bruxellesu, predstavnici Europskog parlamenta i članica EU postigli su suglasnost o regulaciji umjetne inteligencije prošlog prosinca.
Glavna odredba novih propisa zahtijeva da AI sustavi budu pod ljudskim nadzorom umjesto samo drugim tehnološkim rješenjima. U budućim klasifikacijama, AI sustavi bit će svrstani u različite rizične kategorije, pri čemu će se rizičnim aplikacijama izložiti povećani regulatorni zahtjevi.
AI sustavi smatrani visokorizičnima i korišteni u kritičnoj infrastrukturi, uključujući zdravstvo i obrazovni sektor, trebat će zadovoljiti stroge kriterije. EU će izravno zabraniti određene AI aplikacije koje proturječe njezinim temeljnim vrijednostima – to uključuje programe dizajnirane za ocjenjivanje društvenog kredita, poznate kao “drustvenoocjenjivački sustav”, kao i tehnologije prepoznavanja emocija na radnom mjestu i obrazovnim okruženjima.
Očekuje se da će ove pionirske propise postavljene od strane EU-a utjecati na oblikovanje sličnih pravnih okvira diljem svijeta, potencijalno standardizirajući odgovornu upotrebu AI na međunarodnoj razini.
Ključna pitanja i odgovori:
Koji kriteriji određuju je li AI sustav visokorizičan?
Visokorizični AI sustavi su oni korišteni u kritičnim područjima poput zdravstva, policije, prometa i zapošljavanja, gdje mogu predstavljati značajan rizik za sigurnost ili temeljna prava pojedinaca. Kriteriji koje EU može koristiti za klasifikaciju tih sustava uključuju njihovu svrhu primjene, njihov potencijalni utjecaj na prava pojedinaca i ozbiljnost moguće štete ako AI sustav neispravno funkcionira ili se nepravilno koristi.
Kakve vrste AI aplikacija bit će zabranjene prema novim propisima EU-a?
Novi propisi će zabraniti AI sustave koji se smatraju jasnom prijetnjom sigurnosti, života i prava građana, poput onih koji se koriste za nepristranu nadzoru ili za sustave ocjenjivanja društvenog kredita, koji mogu dovesti do diskriminacije i gubitka individualnih sloboda.
Kako će novi propisi o AI utjecati na poslovanje unutar EU?
Poslovni subjekti koji posluju u EU-u, a razvijaju ili koriste AI, morat će osigurati usklađenost sa novim propisima. To može značiti značajna ulaganja u pregledavanje i moguće restrukturiranje njihovih AI sustava. Morat će obratiti pažnju na transparentnost, odgovornost i aspekte koji sprečavaju diskriminaciju njihovih AI rješenja kako bi izbjegli kazne.
Izazovi i kontroverze:
Novi propisi bit će izazovni za provedbu zbog brzorastuće prirode AI tehnologija i potrebe za brzim prilagodbama poslovanja strogim standardima. Dodatno, postoji zabrinutost zbog mogućeg gušenja inovacija zbog regulatornih ograničenja, budući da startupi i manje tvrtke možda nemaju resurse za upravljanje ovim zahtjevima za usklađenost.
Prednosti i nedostaci:
Prednosti:
– Povećano povjerenje javnosti u AI tehnologije.
– Zaštita temeljnih prava i prevencija diskriminatornih praksi.
– Otvoriti put međunarodnim standardima za upotrebu AI.
Nedostaci:
– Potencijalno povećani troškovi i administrativno opterećenje za poslovne subjekte.
– Mogući utjecaj na inovacije i konkurentnost poslovnih subjekata EU-a na globalnom tržištu.
– Rizik fragmentirane provedbe zbog različitih interpretacija od strane članica.
Relevantne poveznice:
– Za informacije o politikama i vijestima Europske unije: Europska unija
– Za uvide o razvoju i politikama umjetne inteligencije: Europska komisija
Važno je napomenuti da su natjecatelji industrije i istraživači AI-a pažljivo pratili razvoj ovih propisa kako bi razumjeli njihove implikacije i prijelazne smjernice za usklađenost.