Den snabba utvecklingen inom artificiell intelligens (AI) har fött verktyg som övertygande kan manipulera och skapa innehåll utan mänsklig intervention, genom att använda sofistikerade algoritmer. Från riktat innehåll som träffar specifika publikgrupper med skräddarsydda meddelanden till helt förfalskade bilder, inspelningar och videor suddas gränsen mellan sanning och falskhet allt mer ut.
I skuggan av AI:s många fördelar utgör dess förmåga att vilseleda ett betydande hot. Weinberger och partners, en advokatbyrå specialiserad på AI, lyfter fram banbrytande lagstiftning riktad mot att skydda oss från de potentiella oegentligheter som denna omfattande teknologi kan föra med sig. Den föreslagna lagens syfte är att granska de möjligheter och utmaningar som AI innebär, särskilt med avseende på kommande val.
AI:s kraft att forma medvetandet och betydligt påverka allmänna åsikter och övertygelser motiverar tillsynsreglering. Med förmågan att sammanfoga video, bilder och ljud till en punkt där de är oigenkännliga kan dessa teknologier förstärka eller förstöra valkandidaters rykten genom att skapa fiktiva tal, händelser eller bildmaterial.
Fallet med Michal Šimečka, ledaren för det progressiva partiet i Slovakien, som förlorade sin påverkan efter att en förfalskad AI-genererad inspelning uppträdde och tycktes föreställa honom försöka muta en journalist, understryker denna fara. Skadan var skedd trots senare avslöjanden om inspelningens oäkthet.
För att motverka spridningen av så kallade ”deep fakes” och fejkade nyheter, finns ett påträngande behov av reglering för att begränsa hoten mot vår valfrihet och allmänhetens förmåga att fatta beslut baserat på pålitlig information.
För detta ändamål har Weinberger, Bartental och partners utarbetat ett banbrytande förslag till lag. Denna lag kräver explicit redovisning av användningen av AI i valkampanjmaterial, inklusive de använda metoderna. Den förbjuder användningen av AI för att förvränga, redigera eller skapa kampanjinnehåll utan redovisning och fastställer allvarliga straff för överträdelser, inklusive böter och rättsliga åtgärder. Det utkastet till lagstiftning specificerar också, ”Ingen person får publicera en valreklam/inlägg/video som innehåller innehåll skapat eller ändrat av artificiell intelligens utan att inkludera en tydlig och påtaglig deklaration om användningen av AI, samt en logotyp.” Advokat Yanor Bartental från firman insisterar på: ”Nu är tiden inne att använda verktyg som kommer att skydda vår förmåga att välja och blockera inblandning i våra tankar, slutsatser och allmänna val av en sådan utländsk påverkan. När AI alltmer fyller våra liv måste vi utvecklas med framstegen och anpassa våra rättssystem till den nya verkligheten.”