Umetna inteligenca (UI) se razvija s presenetljivo hitrostjo in vlada mora takoj ukrepati in regulirati to tehnologijo, je poudaril pionir na področju UI Yoshua Bengio. Bengio, ki velja za »botra« UI, je poudaril, da sedanja smer UI predstavlja pomembne družbene tveganje in da Ottawa ne sme odlašati z izvajanjem zakonodaje, tudi če ta ni popolna.
Eden glavnih pomislekov, ki jih je izrazil Bengio, je možna zloraba UI, zlasti v obliki videoposnetkov deepfake, ki lahko širijo dezinformacije. Ti videoposnetki uporabljajo UI za manipulacijo vizualnih podob in ustvarjanje videza, da javne osebnosti izgovarjajo ali počnejo stvari, ki jih nikoli niso dejansko storile. Poleg tega pa se UI lahko uporablja za zavajanje uporabnikov družbenih omrežij z vključevanjem v dialog, ki lahko spremeni njihova politična mnenja, kar lahko pomeni potencialno erozijo demokratičnih načel.
Poleg tega je Bengio opozoril na naraščajoče tveganje izkoriščanja naprednih sistemov UI za kibernetske napade. Ko se tehnologija UI nadaljuje v razvoju, bi ti sistemi lahko postali dovolj močni, da bi premagali obstoječe kibernetske obrambe in motili kritično digitalno infrastrukturo. Če bi te zmogljivosti padle v napačne roke, bi bile posledice lahko katastrofalne.
Kot odgovor na te pomisleke trenutno odbor industrije v Poslanski zbornici preučuje vladni predlog zakona, ki naj bi urejal sisteme umetne inteligence. Vendar je Bengio poudaril, da je potrebno takoj izvajati določene določbe, namesto da bi čakali na dolgotrajen zakonodajni postopek. Predlagal je ustanovitev registra, ki bi zahteval, da podjetja, ki razvijajo sisteme UI s določeno ravnijo zmogljivosti, poročajo vladi. S tem bi se breme zagotavljanja varnosti teh sistemov prestavilo na tehnološka podjetja namesto na davkoplačevalce.
Bengio je tudi pozval k razširitvi definicije “UI sistemov z visokim vplivom” v zakonu, da bi vključila tiste, ki predstavljajo nacionalno varnostna in družbena tveganja. Sem bi spadali sistemi UI, ki bi se lahko uporabili za načrtovanje kibernetskih napadov in orožja ali pa tisti, ki kažejo na avtonomno razmnoževanje, kljub programskim navodilom, ki temu nasprotujejo.
Nujnost vladnega ukrepanja pri regulaciji UI je dodatno poudarila Catherine Regis, profesorica na Univerzi v Montrealu. Regis je opozorila na hiten razvoj tehnologije UI po svetu in poudarila, da mora Kanada določiti svoj stališče glede regulacije UI, da bi imela pomen v globalnih razpravah o upravljanju.
Sklepno, hitri napredki tehnologije UI zahtevajo takojšnje vladno urejanje. Z aktivnim reševanjem tveganj, povezanih z UI, lahko vlada ublaži potencialne družbene in varnostne grožnje, ki jih ta močna tehnologija predstavlja.
Pogosta vprašanja:
V: Kaj je glavna skrb glede UI po mnenju Yoshue Bengia?
O: Yoshua Bengio se boji možne zlorabe UI, zlasti v obliki videoposnetkov deepfake, ki lahko širijo dezinformacije.
V: Kako lahko UI zavede uporabnike družbenih omrežij?
O: UI lahko vodi dialog z uporabniki družbenih omrežij in manipulira njihova politična mnenja, kar lahko vodi do erozije demokratičnih načel.
V: Katero drugo tveganje je poudaril Bengio?
O: Bengio je prav tako opozoril na tveganje, da bi napredni sistemi UI lahko bili izkoriščeni za kibernetske napade, kar bi imelo lahko katastrofalne posledice, če bi padli v napačne roke.
V: Kakšna je predlagana rešitev za regulacijo UI sistemov?
O: Bengio je predlagal ustanovitev registra, ki bi zahteval, da podjetja, ki razvijajo sisteme UI z določeno ravnjo zmogljivosti, poročajo vladi, s čimer bi se breme zagotavljanja njihove varnosti preneslo na tehnološka podjetja.
V: Na kaj Catherine Regis poudarja glede regulacije UI v Kanadi?
O: Catherine Regis poudarja, da mora Kanada določiti svoje stališče glede regulacije UI, da bi imela pomen v globalnih razpravah o upravljanju.
Ključni izrazi in definicije:
1. Umetna inteligenca (UI): Tehnologija, ki omogoča računalnikom izvajanje nalog, ki običajno zahtevajo človeško inteligenco, kot so prepoznavanje govora, reševanje težav in sprejemanje odločitev.
2. Deepfake: Vrsta sintetičnih podob, ki uporablja UI za manipulacijo ali ustvarjanje ponarejenih videoposnetkov, zvoka ali slik, ki se zdijo resnični, vendar so dejansko spremenjeni ali popolnoma izmišljeni.
3. Dezinformacije: Lažne ali zavajajoče informacije, namerno širjene z namenom zavajanja ljudi in manipulacije javnega mnenja.
4. Kibernetski napadi: Zlonamerni poskusi motenja, poškodovanja ali nepooblaščenega dostopa do računalniških sistemov, omrežij ali digitalnih naprav.
5. Avtonomija: Zmožnost UI sistema za samodejno delovanje brez človeškega posega ali odvisnosti od eksplicitnih programskih navodil.
Predlagane povezave:
– Vladi Umetne inteligence (UI) Bela hiša
– Britanska vlada: Posvetovanje o regulaciji umetne inteligence
– AI zakoni: Baza zakonodaje o UI
– Svetovni gospodarski forum: Poročilo o globalni konkurenčnosti 2019
The source of the article is from the blog radiohotmusic.it