Evropská unie má v úmyslu v červnu předložit významný legislativní návrh týkající se AI, který by měl stanovit potenciální globální standardy pro AI aplikované v podnikání a každodenním životě.
V posledních měsících se zvyšují obavy z rozšíření generativních systémů AI, jako je ChatGPT od Microsoftu a platformy Google, což vyvolává obavy o dezinformace, falešné zprávy a porušení autorských práv.
Před dvěma měsíci schválili a upravili zákonodárci EU návrh na regulaci AI zahájený Evropskou komisí v roce 2021. AI zákon Evropské unie klade přísné požadavky na transparentnost na vysokorizikové systémy AI a je shovívavější ke generickým modelům AI. Omezuje použití vlády reálným biometrickým sledováním v veřejných prostorách pro určité trestní případy, prevenci terorismu a vyšetřování těch nejtěžších zločinů.
Belgický ministr pro digitalizaci Mathieu Michel vyjádřil, že tato historická legislativa řeší globální technologické výzvy a rozvíjí příležitosti pro společnost a ekonomiku.
Patrick van Eecke z advokátní kanceláře Cooley věří, že AI zákon EU bude mít dopad, který sahá daleko za 27 členských států EU. Ne-EU společnosti využívající data zákazníků z EU ve svých platformách AI budou muset dodržovat předpisy, což může ovlivnit další země, aby přijaly podobná nařízení, podobně jako u Obecného nařízení o ochraně osobních údajů (GDPR) EU.
Podle AI zákona EU budou nástroje AI kategorizovány podle jejich vnímané úrovně rizika: minimální, omezené, vysoké a nepřijatelné. Vysokorizikové aplikace AI, jako je biometrické sledování a nástroje, které mohou šířit dezinformace nebo diskriminační jazyk, nebudou přímo zakázány, ale budou vyžadovat vysokou úroveň provozní transparentnosti. Například společnosti za nástroji jako ChatGPT nebo generátorem obrázků Midjourney musí zveřejnit veškeré autorské znalosti využité při vývoji svých systémů.
Pokuty za porušení mohou činit od 7,5 milionu eur (přibližně 8,2 milionu USD) nebo 1,5 % obratu společnosti až po 35 milionů eur nebo až 7 % celkového obratu.
Důležité otázky a odpovědi:
1. Jaké jsou základní ustanovení AI zákona EU?
Zákon o AI stanovuje přísné požadavky na transparentnost pro vysokorizikové systémy AI, zatímco je shovívavější vůči generickým modelům AI. Omezuje reálné biometrické sledování vládou v určitých případech a klasifikuje nástroje AI podle jejich vnímané úrovně rizika: minimální, omezené, vysoké a nepřijatelné.
2. Jakým způsobem bude zákon o AI ovlivňovat firmy mimo Evropskou unii?
Podobně jako v případě GDPR budou firmy mimo EU, které využívají data zákazníků z EU ve svých platformách AI, muset zajistit dodržování zákonů o AI, potenciálně nastavujíc globální regulační normy pro technologie AI.
3. Jaké druhy pokut navrhuje zákon o AI?
Zákon o AI navrhuje pokuty za nedodržení pravidel od 7,5 milionu eur nebo 1,5 % obratu společnosti až po 35 milionů eur nebo až 7 % celkového obratu, v závislosti na závažnosti přestupku.
Klíčové výzvy a kontroverze:
– Zajištění globálního dodržování může být náročné, protože ne-EU společnosti musí dodržovat tyto předpisy a současně vyvažovat své místní právní povinnosti.
– Rozdílení mezi kategoriemi AI a to, co představuje ‚vysoké riziko‘, může být sporné a může vést k rozporům v interpretacích.
– Zákon může vyvolat obavy o potlačení inovací, protože společnosti budou muset věnovat významné zdroje na dodržování pravidel namísto zaměření na vývoj.
– Určení a vymáhání pokut může být složité, zejména při posuzování přestupků a výpočtu použitelné procentuální hodnoty obratu.
Výhody a nevýhody:
Výhody:
– Zákon o AI podporuje ochranu spotřebitele stanovením standardů transparentnosti pro AI systémy, které mohou přímo ovlivnit životy a bezpečnost.
– Může vytvořit zlatý standard pro regulaci AI a posílit důvěru veřejnosti v technologie AI.
– Tím, že ukládá omezení užívání AI, může zabránit zneužívání jako je invazivní dohled a diskriminace.
Nevýhody:
– Může to spůsobit významné náklady společnostem, které potřebují dodržovat, což může zadusit inovace a konkurenceschopnost.
– Existuje potenciál pro právní nejednoznačnosti a komplexnost, což znemožňuje vývojářům AI jasně pochopit požadavky.
– Může to postavit evropské společnosti AI do nevýhody ve srovnání s mezinárodními konkurenty, které se nesetkávají se stejnými regulačními břemeny.
Pro více informací o Evropské unii a jejích iniciativách navštivte oficiální webové stránky EU pomocí tohoto odkazu: Evropská unie. Upozorňujeme, že pokud zákon o AI nebyl ještě oficiálně zaveden, odkazování se na oficiální doménu EU je nejspolehlivější způsob, jak zajistit aktuální a platné informace.