Významným krokom dopredu je, že Európska únia (EÚ) urobila veľký krok smerom k ustanoveniu regulácií pre umelú inteligenciu (AI) s cieľom chrániť ľudské práva a zabezpečiť bezpečnosť. Po dosiahnutí dohody medzi Európskym parlamentom a Radou EÚ má nová regulácia AI, známa ako „AI Act“, stať sa legislatívou v EÚ.
AI Act si kladie za cieľ zakázať určité vysokorizikové využitie AI v rámci EÚ. Sem patria využívanie systémov na rozpoznávanie tváre na verejne prístupných priestranstvách pre účely presadzovania práva, kognitívno-behaviorálna manipulácia s cieľom ovplyvňovať slobodnú vôľu jednotlivcov a využívanie AI na určovanie emocionálnych stavov ľudí na pracovisku alebo v školskom prostredí. Tento zákon taktiež zakazuje hodnotenie jednotlivcov na základe ich správania, zneužívanie zraniteľností a biometrickú kategorizáciu založenú na citlivých charakteristikách.
Okrem toho AI Act usiluje regulovať vysokorizikové využitie AI v rôznych sektoroch, ako sú vzdelávanie, zamestnanie, kritická infraštruktúra, presadzovanie práva a demokratické procesy. Vývojári AI systémov v týchto kategóriách budú musieť vykonávať hodnotenia, aby sa zabezpečilo, že ich systémy spĺňajú kľúčové požiadavky pre dôveryhodnú AI. V istých kontextoch bude tiež vyžadované posúdenie základných práv na ohodnotenie potenciálnych rizík a ľudského dohľadu.
Ďalej AI Act upravuje všeobecné AI modely známe ako „foundation models“. Tieto modely, vyškolené na veľkom množstve dát a schopné napĺňať rôzne úlohy, budú podliehať dvom úrovňam regulácie v závislosti na úrovni rizika spojeného s ich uplatnením. Poskytovatelia všeobecných AI modelov budú musieť udržiavať technickú dokumentáciu, dodržiavať pravidlá o autorských právach a zverejňovať informácie o dátach použitých na výcvik ich modelov. Modely s veľkým dopadom budú musieť splniť ďalšie povinnosti, ako je hodnotenie modelu, kybernetické bezpečnostné opatrenia a hlásenie spotreby energie.
Slobodné a open-source AI systémy budú mať obmedzené oslobodenie od AI Act, avšak nebudú oslobodené, ak spadajú do zakázaných alebo vysokorizikových kategórií. Poskytovatelia open-source AI systémov budú tiež mať povinnosti týkajúce sa autorských práv a transparentnosti.
Vymáhanie AI Act bude zahŕňať sankcie pre nedodržiavanie. EÚ je zaviazaná zabezpečiť zodpovedné a etické využívanie AI na ochranu jednotlivcov a dodržiavanie základných práv.
Tento historický krok EÚ dokazuje záväzok regulovať AI technológie v proaktívnom duchu a vytvoriť prostredie, ktoré dáva prednosť ľudským právam a bezpečnosti a zároveň podporuje inováciu.
The source of the article is from the blog bitperfect.pe