Umělá inteligence (AI) se vyvíjí nevídaným tempem a federální vláda musí okamžitě přijmout opatření k regulaci této technologie, tvrdí průkopník umělé inteligence Yoshua Bengio. Bengio, známý jako „kmotr“ AI, zdůrazňuje, že současná trajektorie vývoje umělé inteligence přináší značné společenské riziko a Ottawa by neměla odkládat implementaci právních předpisů, i když nebudou dokonalé.
Jednou z hlavních obav formulovaných Bengiem je možné zneužití umělé inteligence, zejména prostřednictvím vytváření deepfake videí, která šíří dezinformace. Tato videa využívají umělou inteligenci k manipulaci s vizuálními prvky a činí to, jako by veřejné osobnosti říkaly nebo dělaly věci, které ve skutečnosti nikdy neudělaly. Kromě toho může umělá inteligence podvodně ovlivňovat uživatele sociálních médií prostřednictvím dialogů, které mohou změnit jejich politické názory a vést k potenciální erozi demokratických principů.
Bengio dále upozornil na rostoucí riziko zneužití pokročilých systémů umělé inteligence pro kybernetické útoky. Jak technologie umělé inteligence pokračuje ve svém vývoji, tyto systémy mohou být dostatečně silné na to, aby prorazily současné kybernetické obrany a narušily kritickou digitální infrastrukturu. Pokud by tyto možnosti padly do nesprávných rukou, důsledky by mohly být fatální.
V reakci na tyto obavy právě výbor Dolní sněmovny pro průmysl zkoumá vládní návrh zákona zaměřený na regulaci systémů umělé inteligence. Bengio však zdůrazňuje nutnost okamžitého uplatnění některých ustanovení namísto čekání na dlouhý proces regulace. Navrhuje vytvoření registru, který by vyžadoval, aby společnosti vyvíjející umělou inteligenci s určitou úrovní schopností poskytovaly zprávy vládě. Tím by se přenesla zodpovědnost za zajištění bezpečnosti těchto systémů na technologické společnosti namísto daňových poplatníků.
Bengio také navrhuje rozšíření definice „vysokoúčinných“ systémů umělé inteligence v návrhu zákona tak, aby zahrnovala ty, které představují hrozby pro národní bezpečnost a společnost. Tím by se zahrnuly systémy umělé inteligence, které by mohly být použity k navrhování kybernetických útoků a zbraní, nebo ty, které projevují autonomní replikaci navzdory programovým instrukcím.
Nutnost vládního úsilí o regulaci umělé inteligence dále zdůraznila Catherine Regis, profesorka na Université de Montréal. Regis poukázala na rychlý vývoj umělé inteligence po celém světě a zdůraznila, že Kanada musí definovat svůj postoj k regulaci umělé inteligence, aby měla významnou roli ve světových diskusích o správě.
Závěrem, rychlý vývoj technologie umělé inteligence vyžaduje okamžitou vládní regulaci. Vláda může aktivně řešit rizika spojená s umělou inteligencí a zmírnit tak potenciální společenské a bezpečnostní hrozby spojené s touto účinnou technologií.
Často kladené otázky:
Otázka: Jaká je hlavní obava Yoshuy Bengia ohledně umělé inteligence?
Odpověď: Yoshua Bengio se obává možného zneužití umělé inteligence, zejména prostřednictvím vytváření deepfake videí, která šíří dezinformace.
Otázka: Jak může umělá inteligence podvést uživatele sociálních médií?
Odpověď: Umělá inteligence může zapojením do dialogů s uživateli sociálních médií manipulovat s jejich politickými názory, což může vést k erozi demokratických principů.
Otázka: Jaké další riziko zdůraznil Bengio?
Odpověď: Bengio zdůraznil také riziko zneužití pokročilých systémů umělé inteligence pro kybernetické útoky, které by mohly mít fatální důsledky, pokud by se dostaly do nesprávných rukou.
Otázka: Jaký je navržený řešení pro regulaci systémů umělé inteligence?
Odpověď: Bengio navrhl vytvoření registru, který by požadoval, aby společnosti vyvíjející umělou inteligenci s určitou úrovní schopností poskytovaly zprávy vládě, čímž by se přenesla odpovědnost za zajištění bezpečnosti těchto systémů na technologické společnosti.
Otázka: Co zdůrazňuje Catherine Regis ohledně regulace umělé inteligence v Kanadě?
Odpověď: Catherine Regis zdůrazňuje, že Kanada musí definovat svůj postoj k regulaci umělé inteligence, aby měla významnou roli ve světových diskusích o správě.
Klíčové termíny a definice:
1. Umělá inteligence (AI): Technologie, která umožňuje počítačům provádět úlohy, které obvykle vyžadují lidskou inteligenci, jako je rozpoznávání řeči, řešení problémů a rozhodování.
2. Deepfake: Typ syntetického média, které pomocí umělé inteligence manipuluje nebo vytváří falešná videa, zvuky nebo obrázky, které se mohou jevit jako skutečné, ale ve skutečnosti jsou upravené nebo úplně vymyšlené.
3. Dezinformace: Falešné nebo zavádějící informace šířené úmyslně za účelem oklamání lidí a manipulace s veřejným míněním.
4. Kybernetický útok: Zákeřný pokus o narušení, poškození nebo neoprávněný přístup k počítačovým systémům, sítím nebo digitálním zařízením.
5. Autonomie: Schopnost systému umělé inteligence jednat nezávisle, bez lidského zásahu nebo závislosti na specifických programovacích instrukcích.
Navrhované související odkazy:
– The White House AI Initiative
– UK Government: Regulation of Artificial Intelligence Consultation
– AI Laws: Database of AI Regulations
– World Economic Forum: The Global Competitiveness Report 2019
The source of the article is from the blog anexartiti.gr