Digitálna krajina prešla hlbokou evolúciou s nástupom umelej inteligencie (AI), ovplyvňujúc naše osobné aj profesionálne životy. Uvedenie ChatGPT v roku 2022 označilo zásadný bod, spôsobujúc zvýšený záujem vlád a regulačných orgánov o to, ako najlepšie spravovať vznikajúcu technológiu AI. Významným krokom bola prijatie legislatívneho aktu Európskou úniou (EU) známeho ako Zákon o umelej inteligencii (Act on AI) v marci 2024, signalizujúci prvý významný pokus o reguláciu využívania AI v členských štátoch EU.
AI Act: Aktuálna regulácia pre AI systémy
Účinný od dátumu zverejnenia v Úradnom vestníku, AI Act sa stane zákonom 20 dní po ratifikácii Európskou radou. Väčšina ustanovení AI Actu sa však začne uplatňovať až po dvoch rokoch, s niektorými výnimkami začínajúcimi skôr. Regulácie týkajúce sa zakázaných systémov napríklad nadobudnú účinnosť už po šiestich mesiacoch a povinnosti pre AI aplikácie určené na všeobecné použitie sa budú uplatňovať do jedného roka. Tieto časové rámce poskytujú firmám a orgánom dostatočný čas na implementáciu nových predpisov.
AI Act zavádza rizikovo orientovaný regulačný rámec, zameraný na systémy považované za vysokorizikové. Toto zahŕňa zakázané praktiky ako systémy pre správanie manipulácie, hodnotenia sociálnej doveryhodnosti, prediktívne metódy policajnej práce, systémy biometrickej identifikácie v reálnom čase a systémy na rozpoznávanie emocíí. Zahrňuje aj oblasti vysokého rizika vrátane autonómnych vozidiel a systémov na posudzovanie bonity jednotlivca.
Povinnosti pre zúčastnené subjekty AI systémov
Zákon ukladá základné povinnosti výrobcom, dovozcom a distribútorom AI systémov. Výrobcovia sú zodpovední za určenie kategórie ich AI systému a za zabezpečenie dodržiavania pred predstavením. Musia tiež vykonávať potrebné úpravy systému, monitorovať prevádzku a dodržiavať požiadavky na dokumentáciu. Dovozcovia musia overiť, že AI systémy spĺňajú dokumentačné povinnosti AI Actu a zabezpečiť zhodu pred distribúciou. Distribútori sú povinní nielen skontrolovať značenie CE zhody, ale tiež zabezpečiť, že s AI systémami sa poskytnú primerané dokumentácie a inštrukcie.
Okrem toho, pre AI systémy interagujúce s ľudskými používateľmi je dôležitá transparentnosť. Používatelia by mali byť informovaní o tom, že sa angažujú s AI entitou a synteticky generovaný obsah musí byť explicitne označený. Dodržiavanie Nariadenia o ochrane osobných údajov (GDPR) je aj kladené za povinné, pokiaľ sú osobné údaje spracovávané v rámci AI systémov.
V rámci vynucovania AI Actu prebieha zriadenie dozorných orgánov vo všetkých členských štátoch EU s cieľom zabezpečiť dodržiavanie regulácie. Napokon, v prípade nedodržania stanovuje AI Act trestné opatrenia, pričom potenciálne pokuty sa môžu vyšplhať až na 35 miliónov eur alebo 7 % celoročného obratu spoločnosti – prekračujúc tresty podľa GDPR, čím motivujú spoločnosti, aby dodržiavali ustanovenia AI Actu.