Umelej inteligencii (UI) sa rýchlo rozvíja a federálna vláda musí okamžite zasiahnuť a regulovať túto technológiu, tvrdí pionier umelej inteligencie Yoshua Bengio. Bengio, ktorý je známy ako „otec“ umelej inteligencie, zdôrazňuje, že súčasná trajektória rozvoja UI prináša významné riziká pre spoločnosť a Ottawa by nemala odkladať zavedenie legislatívy, aj keď nebude dokonalá.
Jedným z hlavných obáv vyjadrených Bengiom je možné zneužitie UI, najmä prostredníctvom vytvárania deepfake videí, ktoré šíria dezinformácie. Tieto videá využívajú UI na manipuláciu vizuálnych prvkov a zdá sa, že verejné osobnosti hovoria alebo robia veci, ktoré v skutočnosti nikdy neurobili. Okrem toho môže UI klamať používateľov sociálnych médií tým, že prostredníctvom dialógu mení ich politické názory, čo môže viesť k potenciálnemu narušeniu demokratických princípov.
Okrem toho Bengio poukázal na rastúce riziko využitia pokročilých UI systémov pri kybernetických útokoch. Vzhľadom na neustále pokroky v oblasti UI môžu tieto systémy stačiť na prelomenie súčasných kybernetických obranových mechanizmov a narušenie kritických digitálnych infraštruktúr. Ak by tieto schopnosti padli do nesprávnych rúk, dôsledky by mohli byť fatálne.
Na odpovedanie na tieto obavy v súčasnosti študuje výbor pre priemysel Dolnej komory vládny návrh zákona s cieľom regulovať systémy umelej inteligencie. Bengio však zdôraznil, že je potrebné okamžite zaviesť určité ustanovenia namiesto čakania na dlhý legislatívny proces. Navrhol zriadenie registra, ktorý by vyžadoval, aby spoločnosti vyvíjajúce UI systémy s určitou úrovňou schopnosti informovali vládu. Týmto by sa zodpovednosť za zabezpečenie bezpečnosti týchto systémov presunula na technologické spoločnosti namiesto daňovníkov.
Bengio sa tiež zasadzoval za rozšírenie definície „vysoko vplyvových“ UI systémov v návrhu zákona tak, aby zahŕňala tie, ktoré predstavujú hrozby pre národnú bezpečnosť a spoločnosť. Sem by patrili UI systémy, ktoré by mohli slúžiť na navrhovanie kybernetických útokov a zbrane, alebo tie, ktoré prejavujú autonómnu replikáciu napriek inštrukciám programovania.
Naliehavosť vládneho konania pri regulácii UI ešte viac zdôraznila Catherine Regis, profesorka na Univerzite de Montreal. Regis poukázala na rýchly vývoj UI na celosvetovej úrovni a zdôraznila, že Kanada musí zadefinovať svoje stanovisko k regulácii UI, aby mala významnú úlohu v globálnych diskusiách o správe.
Na záver, rýchle pokroky v oblasti UI vyžadujú okamžitú reguláciu zo strany vlády. Tým, že sa aktívne zaoberá rizikami spojenými s UI, môže vláda zmierniť potenciálne hrozby pre spoločnosť a bezpečnostné riziká spojené s touto mocnou technológiou.
Časté otázky:
Otázka: Aká je hlavná obava podľa Yoshuu Bengioho týkajúca sa UI?
Odpoveď: Yoshua Bengio je znepokojený možným zneužitím UI, najmä vytváraním deepfake videí, ktoré šíria dezinformácie.
Otázka: Ako môže UI klamať používateľov sociálnych médií?
Odpoveď: UI môže prostredníctvom dialógu zasahovať do sociálnych médií a meniť politické názory používateľov, čo môže viesť k narušeniu demokratických princípov.
Otázka: Aké ďalšie riziko zdôrazňuje Bengio?
Odpoveď: Bengio tiež poukazuje na riziko využitia pokročilých UI systémov pri kybernetických útokoch, ktoré by mali fatálne následky, ak by sa dostali do nesprávnych rúk.
Otázka: Aké je navrhované riešenie pre reguláciu UI systémov?
Odpoveď: Bengio navrhuje zriadenie registra, ktorý by vyžadoval, aby spoločnosti vyvíjajúce UI systémy s určitou úrovňou schopnosti informovali vládu a presunul by zodpovednosť za ich bezpečnosť na technologické spoločnosti.
Otázka: Čo zdôrazňuje Catherine Regis v súvislosti s reguláciou UI v Kanade?
Odpoveď: Catherine Regis zdôrazňuje, že Kanada musí zadefinovať svoje stanovisko k regulácii UI, aby mala významnú úlohu v globálnych diskusiách o správe.
Kľúčové termíny a definície:
1. Umelá inteligencia (UI): Technológia, ktorá umožňuje počítačom vykonávať úlohy, ktoré zvyčajne vyžadujú ľudskú inteligenciu, ako napríklad rozpoznávanie reči, riešenie problémov a rozhodovanie.
2. Deepfake: Druh syntetickej médií, ktorá používa UI na manipuláciu alebo vytváranie falošných videí, zvuku alebo obrázkov, ktoré sa môžu zdať reálne, ale v skutočnosti sú upravené alebo úplne falošné.
3. Dezinformácie: Nepravdivé alebo zavádzajúce informácie, ktoré sa úmyselne šíria, aby manipulovali verejnú mienku a zviedli ľudí.
4. Kybernetické útoky: Zákerné pokusy o narušenie, poškodenie alebo neoprávnený prístup k počítačovým systémom, sieťam alebo digitálnym zariadeniam.
5. Autonómia: Schopnosť UI systému konať nezávisle, bez ľudskej intervencie alebo závislosti od explicitných programovacích inštrukcií.
Navrhované súvisiace odkazy:
– The White House AI Initiative
– UK Government: Regulation of Artificial Intelligence Consultation
– AI Laws: Database of AI Regulations
– World Economic Forum: The Global Competitiveness Report 2019
The source of the article is from the blog kewauneecomet.com