Umjetna inteligencija (UI) napreduje nevjerojatnom brzinom, stoga federalna vlada mora odmah poduzeti akciju za regulaciju ove tehnologije, prema pioniru umjetne inteligencije Yoshui Bengiu. Bengiu, poznat kao “otac” UI, istaknuo je da trenutna putanja UI predstavlja značajne društvene rizike i da Ottawa ne bi trebala odgađati donošenje zakonodavstva, čak i ako nije savršeno.
Jedna od glavnih zabrinutosti koje je iznio Bengiu je potencijalno zloupotreba UI, posebno putem stvaranja deepfake videa koji mogu širiti dezinformacije. Ti videi koriste UI kako bi manipulirali vizualima i izgledalo da javne osobe izgovaraju ili rade stvari koje zapravo nikad nisu učinile. Osim toga, UI se može koristiti za zavaravanje korisnika društvenih medija kroz dijalog koji može promijeniti njihova politička mišljenja, što može dovesti do potencijalne erozije demokratskih načela.
Osim toga, Bengiu je istaknuo rastući rizik od iskorištavanja naprednih sustava UI za kibernetičke napade. Kako tehnologija UI nastavlja napredovati, ti sustavi mogu postati dovoljno moćni da pređu postojeće kibernetičke obrane i poremete ključnu digitalnu infrastrukturu. Ako te mogućnosti padnu u krive ruke, posljedice mogu biti strašne.
Kao odgovor na ove zabrinutosti, Odbor za industriju Zastupničkog doma trenutno proučava vladin prijedlog zakona usmjeren na reguliranje sustava umjetne inteligencije. Međutim, Bengiu je naglasio potrebu za određenim odredbama koje bi se odmah trebale implementirati umjesto čekanja na dugotrajan regulativni proces. Predložio je uspostavu registra koji bi zahtijevao da tvrtke koje razvijaju sustave UI s određenom razinom sposobnosti izvješćuju vlastima. To bi prebacilo odgovornost za osiguravanje sigurnosti tih sustava na tehnološke tvrtke umjesto na porezne obveznike.
Bengio se također zauzima za proširenje definicije “sustava visokog utjecaja” u zakonu kako bi obuhvatili one koji predstavljaju prijetnje nacionalnoj sigurnosti i društvu. To bi uključivalo sustave UI koji se mogu koristiti za dizajniranje kibernetičkih napada i oružja ili koji pokazuju autonomnu replikaciju unatoč programskim uputama koje su im suprotne.
Hitnost vladine akcije u reguliranju UI dodatno je naglasila Catherine Regis, profesorica na Universite de Montreal. Regis je istaknula brz razvoj UI diljem svijeta i naglasila da Kanada mora definirati svoj stav o regulaciji UI kako bi imala značajnu ulogu u raspravama o globalnom upravljanju.
Zaključno, brzi napredak u tehnologiji UI zahtijeva brzu vladinu regulaciju. Proaktivnim suočavanjem s rizicima povezanim s UI, vlada može smanjiti potencijalne društvene i sigurnosne prijetnje koje ova moćna tehnologija nosi sa sobom.
ODJELJAK S FAQ PITANJIMA:
Q: Koja je glavna zabrinutost Yoshue Bengiua u vezi s UI?
A: Yoshua Bengio je zabrinut zbog potencijalne zloupotrebe UI, posebno putem stvaranja deepfake videa koji mogu širiti dezinformacije.
Q: Kako UI može zavesti korisnike društvenih medija?
A: UI može stupiti u dijalog s korisnicima društvenih medija i manipulirati njihovim političkim mišljenjima, što potencijalno može dovesti do erozije demokratskih načela.
Q: Koja je druga zabrinutost koju je iznio Bengio?
A: Bengio je također istaknuo rizik od iskorištavanja naprednih sustava UI za kibernetičke napade, što može imati strašne posljedice ako padnu u krive ruke.
Q: Kakvo je predloženo rješenje za reguliranje sustava UI?
A: Bengio je predložio uspostavu registra koji bi zahtijevao da tvrtke koje razvijaju sustave UI s određenom razinom sposobnosti izvješćuju vlastima, prebacujući odgovornost za njihovu sigurnost na tehnološke tvrtke.
Q: Što Catherine Regis ističe u vezi s regulacijom UI u Kanadi?
A: Catherine Regis ističe da Kanada mora definirati svoj stav o regulaciji UI kako bi imala značajnu ulogu u raspravama o globalnom upravljanju.
Ključni pojmovi i definicije:
1. Umjetna inteligencija (UI): Tehnologija koja omogućava računalima obavljanje zadataka koji obično zahtijevaju ljudsku inteligenciju, kao što su prepoznavanje govora, rješavanje problema i donošenje odluka.
2. Deepfake: Vrsta sintetičkog medija koji koristi UI za manipulaciju ili stvaranje lažnih videozapisa, zvuka ili slika koje mogu izgledati stvarno, ali su zapravo izmijenjene ili potpuno izmišljene.
3. Dezinformacija: Lažne ili zavaravajuće informacije koje se namjerno šire kako bi se obmanjivali ljudi i manipulirala javna mišljenja.
4. Kibernetički napadi: Zlonamjerni pokušaji poremećaja, oštećenja ili neovlaštenog pristupa računalnim sustavima, mrežama ili digitalnim uređajima.
5. Autonomija: Sposobnost sustava umjetne inteligencije da djeluje neovisno, bez ljudske intervencije ili oslanjanja na eksplicitne programerske upute.
Predložene poveznice:
– Inicijativa Bijele kuće za UI
– Konzultacija britanske vlade o regulaciji umjetne inteligencije
– AI zakoni: Baza podataka o regulativama UI
– Svjetski gospodarski forum: Izvještaj o globalnoj konkurentnosti 2019.
The source of the article is from the blog kunsthuisoaleer.nl