Kunstig intelligens (KI) utviklar seg i rekordfart, og den føderale regjeringa må ta umiddelbare grep for å regulere denne teknologien, ifølgje KI-pioner Yoshua Bengio. Bengio, kjend som ein «gudfar» av KI, understreka at noverande retning for KI utgjer betydelege samfunnsmessige risikoar, og Ottawa bør ikkje forseinka iverksetjinga av regelverk, sjølv om det ikkje er perfekt.
Ein av dei største bekymringane Bengio peikar på er potensiell misbruk av KI, særleg gjennom produksjon av dypepfake-videoar som kan spreie desinformasjon. Desse videoane nyttar KI for å manipulere visuelle inntrykk og få det til å sjå ut som om offentlege personar seier eller gjer ting dei faktisk aldri har gjort. I tillegg kan KI bli brukt til å lure sosiale mediebrukarar gjennom dialog som kan endre deira politiske meiningar, noko som kan true dei demokratiske prinsippa.
Vidare framheva Bengio den aukande risikoen for at avanserte KI-system kan bli utnytta til cyberangrep. Ettersom KI-teknologien held fram med å utvikle seg, kan desse systema bli sterke nok til å bryte gjeldande cyberforsvar og forstyrre kritisk digital infrastruktur. Dersom slike evner havnar i feile hender, kan konsekvensane bli alvorlege.
Som svar på desse bekymringane, studerer no Underhusets næringskomite ein regjeringslov som tar sikte på å regulere system for kunstig intelligens. Likevel poengterte Bengio behovet for at visse føringar blir iverksatte umiddelbart i staden for å vente på ein langvarig reguleringsprosess. Han foreslo opprettinga av eit register som ville pålegge selskap som utviklar KI-system med bestemt evnekvarnivå å rapportere til regjeringa. Dette ville flytte ansvaret for å sikre tryggleiken til desse systema over på teknologiselskap i staden for skattebetalarane.
Bengio argumenterte også for å utvide definisjonen av «høgtytande» KI-system i lova slik at det også gjeld system som utgjer nasjonale tryggleikstruslar og samfunnsmessige truslar. Dette ville omfatte KI-system som kan brukast til å utforme cyberangrep og våpen, eller som viser autonom replikering på tross av programinstruksjonar som seier noko anna.
Naudsynta av offentleg handling for å regulere KI vart ytterlegare understreka av Catherine Regis, ein professor ved Université de Montréal. Regis peika på den raske utviklinga av KI globalt og understreka at Canada må definere si haldning til regulering av KI for å ha ein meiningsfull rolle i globale styresmaktsdiskusjonar.
Konklusjonen er at den raske utviklinga av KI-teknologi krev umiddelbar offentleg regulering. Ved å handheve risikoane knytt til KI proaktivt, kan regjeringa dempe dei potensielle samfunnsmessige og tryggleiksmessige truslane som følgjer med denne kraftfulle teknologien.
Vanlege spørsmål og svar:
Spørsmål: Kva er hovudbekymringa knytt til KI ifølgje Yoshua Bengio?
Svar: Yoshua Bengio er bekymra for potensiell misbruk av KI, særleg gjennom produksjon av dypepfake-videoar som kan spreie desinformasjon.
Spørsmål: Korleis kan KI lure sosiale mediebrukarar?
Svar: KI kan delta i dialog med sosiale mediebrukarar og manipulere dei politiske meiningane deira, noko som potensielt kan true dei demokratiske prinsippa.
Spørsmål: Kva er ein annan risiko som Bengio peikar på?
Svar: Bengio framhevar også risikoen for at avanserte KI-system kan bli utnytta til cyberangrep, noko som kan få alvorlege konsekvensar om dei hamnar i feile hender.
Spørsmål: Kva er den føreslåtte løysinga for å regulere KI-system?
Svar: Bengio føreslår opprettinga av eit register som vil pålegge selskap som utviklar KI-system med bestemt evnenivå å rapportere til regjeringa, og slik flytte ansvaret for tryggleiken over på teknologiselskapa.
Spørsmål: Kva framhevar Catherine Regis angåande regulering av KI i Canada?
Svar: Catherine Regis framhevar at Canada må definere si haldning til regulering av KI for å ha ein meiningsfull rolle i globale styresmaktsdiskusjonar.
Nøkkeltermar og definisjonar:
1. Kunstig intelligens (KI): Teknologi som gjer datamaskinar i stand til å utføre oppgåver som typisk krev menneskeleg intelligens, som talegjenkjenning, problemløysing og avgjerdstaking.
2. Dypepfake: Ei type syntetisk medie som nyttar KI til å manipulere eller lage falske videoar, lyd eller bilete som kan sjå ut som ekte, men som faktisk er endra eller heilt oppdikta.
3. Desinformasjon: Falsk eller villedande informasjon som blir med viten spreidd for å villeie folk og påverke den offentlege meiningsdanninga.
4. Cyberangrep: Skadelege forsøk på å forstyrre, skade eller få uautorisert tilgang til datamaskinsystem, nettverk eller digitale apparat.
5. Autonomi: Evna til eit KI-system til å handle uavhengig, utan menneskeleg innblanding eller behov for eksplisitte programinstruksjonar.
Foreslåtte relaterte lenkjer:
– The White House AI Initiative (engelsk)
– UK Government: Regulation of Artificial Intelligence Consultation (engelsk)
– AI Laws: Database of AI Regulations (engelsk)
– World Economic Forum: The Global Competitiveness Report 2019 (engelsk)
The source of the article is from the blog papodemusica.com