Akselererende udviklinger inden for kunstig intelligens (AI) teknologi har født værktøjer, der overbevisende kan manipulere og fabrikere indhold uden menneskelig indgriben ved hjælp af sofistikerede algoritmer. Fra målrettet indhold, der rammer visse grupper med præcist tilpassede beskeder til fuldstændig fabrikerede billeder, optagelser og videoer, bliver gradienten mellem sandhed og falskhed mere og mere uklar.
Midt i AI’s talrige fordele udgør dets evne til bedrag en formidabel trussel. Weinberger og partnere, et advokatfirma specialiseret i AI, bringer pionerregulerende lovgivning, der sigter mod at beskytte os mod de potentielle misgerninger, som denne gennemtrængende teknologi kan føre med sig. Lovforslagets mål er at undersøge både de muligheder og udfordringer, som AI præsenterer, især med henblik på kommende valg.
AI’s kraft til at manipulere bevidsthed og væsentligt påvirke offentlig mening og overbevisninger berettiger regulatorisk tilsyn. Med evnen til at fusionere video, billeder og lyd til punktet for ikke-detekterbarhed kan disse teknologier styrke eller ødelægge valgkandidater ved at skabe fiktive taler, begivenheder eller billeder.
Historien om Michal Šimečka, lederen af det progressive parti i Slovakiet, som mistede sin indflydelse efter en forfalsket AI-genereret optagelse så ud til at afbilde ham i forsøget på at bestikke en journalist, understreger denne fare. Skaden var sket, på trods af senere afsløringer af optagelsens uautenticitet.
For at bekæmpe spredningen af såkaldte “deep fakes” og falske nyheder er der et presserende behov for regulering – for at begrænse trusler mod vores frihed til valg og offentlighedens evne til at træffe beslutninger baseret på pålidelig information.
Til dette formål har Weinberger, Bartental og partnere udarbejdet et historisk lovforslag. Dette lovforslag pålægger eksplicit offentliggørelse af AI’s brug i valgkampagne materialer, inklusive de anvendte metoder. Det forbyder anvendelsen af AI til at fordreje, redigere eller skabe kampagneindhold uden offentliggørelse og fastsætter alvorlige sanktioner for overtrædelser, herunder store bøder og retlige foranstaltninger. Udkastet til lovgivningen specificerer også, at “Ingen person må offentliggøre en valgannonce/indlæg/video indeholdende indhold skabt eller ændret af kunstig intelligens uden at inkludere en klar og tydelig erklæring om AI-brug samt et logo.” Advokat Yanor Bartental fra firmaet fastslår: “Nu er tiden inde til at implementere værktøjer, der vil beskytte vores evne til valg og blokere for indblanding i vores tankeprocesser, konklusioner og offentlige valg fra sådan udenlandsk indflydelse. Når AI i stigende grad fylder vores liv, må vi udvikle os med fremskridtet og tilpasse vores juridiske systemer til den nye virkelighed.”
Relevante Fakta
– Kunstig intelligens kan skabe såkaldte “deepfakes,” som er overbevisende audiovisuelle medier, der kan forvanske virkeligheden og potentielt påvirke offentlig mening, især under valg.
– Der overvejes regulerende foranstaltninger globalt, med variationer i omfanget og håndhævelsesmekanismerne. For eksempel inkluderer EU’s foreslåede Artificiel Intelligence Act bestemmelser for at tackle AI-systemer baseret på deres risikoniveau, hvilket kunne omfatte valgrelaterede AI-teknologier.
– I USA er der set tiltag som DEEP FAKES Accountability Act foreslået i Kongressen, der sigter mod at begrænse de skadelige virkninger af deepfake-teknologien ved at kræve mærkning og tilbyde retsmidler for dem, der er blevet påvirket.
– Sociale medieplatforme som Facebook og Twitter har deres egne politikker og AI-detektionsværktøjer til at identificere og markere eller fjerne vildledende indhold, herunder deepfakes, selvom disse metoder ikke er vandtætte.
Vigtige Spørgsmål og Svar
– Hvad er det primære mål med de foreslåede regulerende bestræbelser for AI?
Det primære mål er at bevare valgintegriteten ved at sikre, at valgkampagne materialer, der benytter AI, især til indholdsoprettelse eller -ændring, eksplicit bliver offentliggjort, hvilket giver offentligheden mulighed for at træffe informerede beslutninger.
– Hvad er udfordringerne ved at regulere AI i valgkonteksten?
Udfordringer inkluderer at skelne mellem legitim brug og ond hensigt, håndhævelse af reguleringer på tværs af nationale og jurisdiktionelle grænser samt at følge med den hurtigt fremskridende AI-teknologi.
– Hvilke kontroverser kan opstå som følge af disse regulerende bestræbelser?
Kontroverser kan opstå som følge af bekymringer over ytringsfrihed, privatliv, afgrænsning af tærsklen for regulering og fastsættelse af ansvar for indhold delt på forskellige digitale platforme.
Fordele og Ulemper
– Fordele:
– Beskytte offentlig mening mod manipulation gennem falsk information.
– Øge gennemsigtigheden i valgkampagner.
– Opfordre til ansvarlig brug af AI-teknologier af indholdsproducenter og -distributører.
– Ulemper:
– Kan begrænse kreative og legitime anvendelser af AI.
– Kan være udfordrende at håndhæve, især på tværs af internationale grænser.
– Kan møde modstand fra dem, der hævder, at det krænker ytringsfriheden.
For dem, der er interesseret i yderligere information om disse emner vedrørende AI og regulering, omfatter anerkendte kilder til opdateringer og indsigt i disse spørgsmål:
– Den Europæiske Kommissions Digital Single Market – Kunstig Intelligens
– United States Office of Science and Technology Policy – AI Initiative
– MIT Technology Review
Det er afgørende, at retssystemer og politikker over hele verden hurtigt og effektivt tilpasser sig de udfordringer, som AI stiller i forhold til at bevare den demokratiske proces og beskytte valgintegriteten.