Nová nařízení o umělé inteligenci mají změnit standardy průmyslu.

Nová éra pro regulaci umělé inteligence nastala nedávnou implementací přísných směrnic upravujících používání umělé inteligence v Evropské unii. Tyto regulace jsou navrženy nejen k omezení potenciálu umělé inteligence, ale i k ochraně základních práv. Podívejme se na některé praktiky, které jsou nyní považovány za nepřijatelné podle nových regulací.

Targetování zranitelných skupin je přísně zakázáno podle aktualizovaných regulací vztahujících se k umělé inteligenci. Jakékoliv systémy umělé inteligence, které zneužívají zranitelnost konkrétních skupin, jako jsou děti nebo osoby s postižením, k manipulaci či způsobení škody, jsou nyní nezákonné. Například by hřebenová aplikace na hraní her, která láká děti k utrácení přemrštěných částek peněz prostřednictvím cílených nabídek, spadala do této porušení.

Zákaz identifikace osob v reálném čase biometrickými údaji na veřejných místech je dalším klíčovým prvkem nových regulací. Používání rozpoznávání obličejů v reálném čase a dalších metod identifikace biometrických údajů na veřejných místech je nyní zakázáno s výjimkou konkrétních scénářů definovaných orgány činnými v trestním řízení s přísným dohledem. Příkladem může být sledování kamerami a identifikace jednotlivců v reálném čase v nákupních centrech bez jejich výslovného souhlasu.

Boj s subliminální manipulací tvoří důležitou část nových regulací. Systémy umělé inteligence, které používají subliminální techniky ke značnému zkreslení chování škodlivým způsobem, jsou nyní zakázány. Uvažujte o marketingové aplikaci řízené umělou inteligencí, která vkládá subliminální zprávy do video reklam, jemně ovlivňující chování spotřebitelů bez jejich vědomí.

Zajištění lidského dohledu při automatizovaném rozhodování je klíčové pro zabránění nespravedlivých či chybných rozhodnutí vykonávaných pouze automatizovanými procesy. Systémy umělé inteligence odpovědné za kritické rozhodování, které ovlivňuje životy, zdraví a práva, musí začlenit lidský dohled. Například systém umělé inteligence používaný v bankovnictví k schválení nebo zamítnutí půjček bez jakéhokoli lidského zásahu by mohl vést k chybám či diskriminaci.

Pro všechny další informace ohledně pravidel AI a jejich dopadů na odvětví návštěvní oficiální webové stránky Evropské unie.