Evropský parlament včera schválil zákon o umělé inteligenci, který zahajuje novou éru technologické regulace. Zákon byl přijat převážnou většinou 523 hlasů pro, 46 proti a 49 zdrželo se hlasování. Cílem tohoto zákona je dosáhnout rovnováhy mezi ochranou základních práv, demokracie a životního prostředí a zároveň podporovat inovace a posílit postavení Evropy jako globálního lídra v oblasti umělé inteligence.
Zákon zavádí komplexní soubor povinností pro systémy umělé inteligence na základě jejich potenciálních rizik a úrovní dopadu. Tím, že stanovuje zákazy určitých aplikací, které porušují práva občanů, legislativa zaujímá proaktivní postoj k ochraně individuálních svobod. Například zákon zakazuje použití biometrických klasifikačních systémů založených na citlivých charakteristikách a nediskriminační sběr obličejových obrázků z internetu nebo záběrů z kamerových systémů pro tvorbu databází rozpoznávání tváří.
Stejně tak zákon zakazuje využití umělé inteligence pro rozpoznávání emocí v pracovištích a školách, zavedení systémů hodnocení občanů, prediktivní policejní práci založenou pouze na profilování a umělou inteligenci, která manipuluje lidské chování nebo zneužívá zranitelnosti.
Přestože se zákon zavazuje chránit práva občanů, uznává výjimky pro orgány výkonu práva. Biometrické identifikační systémy mohou být využity za přísných záruk v konkrétních a dobře definovaných situacích. Například cílené hledání postrádající osoby nebo prevence teroristického útoku může vyžadovat využití biometrických identifikačních systémů v reálném čase. Nicméně jejich použití vyžaduje omezenou dobu a místo použití a předchozí soudní či správní povolení. Jakékoliv následné využití těchto systémů je považováno za vysokorizikové a musí být schváleno soudně kvůli spojení s trestnou činností.
Zákon také ukládá jasné povinnosti pro systémy umělé inteligence vysoce rizikové, které mohou významně ovlivnit zdraví, bezpečnost, základní práva, životní prostředí, demokracii a právní stát. Od kritické infrastruktury přes vzdělávání, odbornou přípravu a základní veřejné a soukromé služby jako zdravotnictví a bankovnictví musí tyto systémy provádět hodnocení rizik, udržovat záznamy o použití, zajistit transparentnost a přesnost a zahrnovat lidský dohled. Navíc osoby ovlivněné systémy umělé inteligence mají právo podávat stížnosti a dostávat vysvětlení rozhodnutí založených na těchto systémech.
Pro zajištění odpovědnosti a transparentnosti zákon stanovuje požadavky pro systémy umělé inteligence obecného účelu a podkladové modely, na kterých spoléhají. Vyžaduje dodržování autorského práva EU, zveřejnění podrobných souhrnů obsahu použitého pro trénink modelů umělé inteligence a jasnou označení umělých nebo manipulovaných obrázků, zvuku nebo videí pro snadnou identifikaci.
Ve snaze podpořit inovace a rozvoj malých a středních podniků, zákon zdůrazňuje vytváření kontrolovaných prostorů pro testování a zkoušení. Tyto prostory, dostupné na národní úrovni, umožňují malým a startupům vyvíjet a trénovat své řešení založené na umělé inteligenci za reálných podmínek před uvedením na trh.
Přijetí zákona o umělé inteligenci představuje klíčový okamžik v regulaci technologie umělé inteligence. Tím, že hledá jemnou rovnováhu mezi ochranou základních práv a podporou inovací, Evropa otevírá cestu k etickému a odpovědnému rozvoji umělé inteligence. Zákon stanovuje globální precedens, zajistí, že umělá inteligence zůstane nástrojem pro pokrok a zároveň ochrání hodnoty, na nichž je postavena naše společnost.
## Často kladené otázky
### Jaký je účel zákona o umělé inteligenci?
Zákon o umělé inteligenci má za cíl chránit základní práva, demokracii, právní stát a životní prostředí a zároveň podporovat inovace a posilovat postavení Evropy jako globálního lídra v oblasti technologií umělé inteligence.
### Které aplikace jsou zakázány podle tohoto zákona?
Zákon zakazuje aplikace umělé inteligence, které porušují práva občanů, včetně biometrických klasifikačních systémů, nediskriminačního sběru obličejových obrázků pro tvorbu databází rozpoznávání tváří, rozpoznávání emocí v pracovištích a školách, systémy hodnocení občanů, prediktivní policejní práci založenou pouze na profilování a umělou inteligenci, která manipuluje lidské chování nebo zneužívá zranitelnosti.
### Existují výjimky pro orgány výkonu práva?
Ano, orgány výkonu práva mají výjimky za přísných záruk. Například cílené hledání postrádajících osob nebo prevence teroristických útoků může vyžadovat využití biometrických identifikačních systémů v reálném čase. Nicméně je nutné mít předchozí soudní nebo správní povolení a následné využití těchto systémů podléhá soudnímu schválení.
### Jaké povinnosti platí pro vysokorizikové systémy umělé inteligence?
Vysokorizikové systémy umělé inteligence, které mohou mít významný dopad na společnost, musí provádět hodnocení a minimalizovat rizika, udržovat záznamy o použití, zajistit transparentnost a přesnost, zahrnout lidský dohled a umožnit jednotlivcům podávat stížnosti a dostávat vysvětlení rozhodnutí založených na těchto systémech.
### Jaké požadavky existují na transparentnost u systémů umělé inteligence?
Obecné systémy umělé inteligence a jejich podkladové modely musí splňovat požadavky na transparentnost, včetně dodržování autorského práva EU, zveřejnění souhrnů trénovacích dat a jasný popisek umělých nebo manipulovaných obrázků, zvuku nebo videí pro snadnou identifikaci.
### Jaká opatření podporují inovace a malé a střední podniky?
Zákon zdůrazňuje vytváření kontrolovaných prostorů pro testování a zkoušení pro malé a střední podniky a startupy, kteří tak mohou vyvíjet a trénovat inovativní řešení založené na umělé inteligenci za reálných podmínek před jejich uvedením na trh.
The source of the article is from the blog meltyfan.es