Kunstig intelligens (KI) udvikler sig med en hidtil uset hastighed, og den føderale regering må træffe øjeblikkelige foranstaltninger for at regulere denne teknologi, ifølge KI-pioneren Yoshua Bengio. Bengio, der er kendt som en “gudfar” for KI, understregede, at den nuværende udvikling af KI udgør betydelige samfundsmæssige risici, og at Ottawa ikke bør udskyde implementeringen af lovgivning, selvom den ikke er perfekt.
En af de største bekymringer, der blev rejst af Bengio, er den potentielle misbrug af KI, især gennem oprettelsen af deepfake-videoer, der kan sprede desinformation. Disse videoer bruger KI til at manipulere visuelt materiale og få det til at se ud som om offentlige personer siger eller gør ting, de aldrig har gjort. Derudover kan KI bruges til at forvirre brugere på sociale medier ved at engagere sig i dialog, der kan ændre deres politiske holdninger og dermed potentielt underminere demokratiske principper.
Derudover påpegede Bengio den voksende risiko for, at avancerede KI-systemer udnyttes til cyberangreb. Når KI-teknologien fortsætter med at udvikle sig, kan disse systemer blive kraftfulde nok til at bryde nuværende cyberforsvar og forstyrre kritisk digital infrastruktur. Hvis disse muligheder kommer i de forkerte hænder, kan konsekvenserne være katastrofale.
Som reaktion på disse bekymringer undersøger det canadiske Underhus’ industriudvalg i øjeblikket et lovforslag, der sigter mod at regulere kunstig intelligens. Dog understregede Bengio behovet for, at visse bestemmelser bliver implementeret øjeblikkeligt i stedet for at vente på en langvarig reguleringsproces. Han foreslog oprettelsen af et register, som ville kræve, at virksomheder, der udvikler KI-systemer med en specificeret grad af kapacitet, skal rapportere til regeringen. Dette ville lægge ansvaret for sikkerheden af disse systemer på teknologivirksomhederne i stedet for skatteyderne.
Bengio argumenterede også for, at lovforslagets definition af “højt påvirkningsfulde” KI-systemer skal udvides til at omfatte dem, der udgør trusler mod national sikkerhed og samfundet. Dette ville omfatte KI-systemer, der kan bruges til at designe cyberangreb og våben eller dem, der autonomt replikerer, selvom de er programmeret til det modsatte.
Catherine Regis, professor ved Université de Montreal, understregede også vigtigheden af, at Canada definerer sin holdning til regulering af kunstig intelligens for at få en meningsfuld rolle i globale forhandlinger om styring af KI.
Konklusionen er, at de hurtige fremskridt inden for kunstig intelligens kræver øjeblikkelig regulering fra regeringens side. Ved proaktivt at håndtere risiciene forbundet med KI kan regeringen mindske de potentielle samfundsmæssige og sikkerhedsmæssige trusler, som denne kraftfulde teknologi udgør.
Ofte stillede spørgsmål:
Q: Hvad er den største bekymring vedrørende KI ifølge Yoshua Bengio?
A: Yoshua Bengio er bekymret for det potentielle misbrug af KI, især gennem oprettelsen af deepfake-videoer, der kan sprede desinformation.
Q: Hvordan kan KI narre brugere på sociale medier?
A: KI kan engagere sig i dialog med brugere på sociale medier og manipulere deres politiske holdninger, hvilket potentielt kan underminere demokratiske principper.
Q: Hvad er en anden risiko, som Bengio fremhæver?
A: Bengio fremhæver også risikoen for, at avancerede KI-systemer udnyttes til cyberangreb, hvilket kan have alvorlige konsekvenser, hvis de kommer i de forkerte hænder.
Q: Hvad er den foreslåede løsning til regulering af KI-systemer?
A: Bengio foreslog oprettelsen af et register, der ville kræve, at virksomheder, der udvikler KI-systemer med en specificeret grad af kapacitet, skal rapportere til regeringen og dermed lægge ansvaret for deres sikkerhed på teknologivirksomhederne.
Q: Hvad understreger Catherine Regis vedrørende regulering af KI i Canada?
A: Catherine Regis understreger, at Canada skal definere sin holdning til regulering af KI for at have en meningsfuld rolle i globale diskussioner om styring af KI.
Nøgleord og definitioner:
1. Kunstig intelligens (KI): Teknologi, der gør det muligt for computere at udføre opgaver, der normalt kræver menneskelig intelligens, såsom talegenkendelse, problemløsning og beslutningstagning.
2. Deepfake: En type syntetiske medier, der bruger KI til at manipulere eller skabe falske videoer, lyd eller billeder, der kan se ægte ud, men faktisk er ændret eller fuldstændigt fabrikeret.
3. Desinformation: Falske eller vildledende oplysninger, der bevidst spredes for at narre mennesker og manipulere den offentlige mening.
4. Cyberangreb: Ondsindede forsøg på at forstyrre, beskadige eller få uautoriseret adgang til computersystemer, netværk eller digitale enheder.
5. Autonome: Evnen hos et KI-system til at handle uafhængigt, uden menneskelig indgriben eller afhængighed af eksplicitte programmeringsinstruktioner.
Foreslåede relaterede links:
– The White House AI Initiative
– UK Government: Regulation of Artificial Intelligence Consultation
– AI Laws: Database of AI Regulations
– World Economic Forum: The Global Competitiveness Report 2019
The source of the article is from the blog maltemoney.com.br