Kunstmatige intelligentie (AI) is bezig de wereld van verkiezingen te revolutioneren, maar het brengt ook aanzienlijke risico’s met zich mee voor democratische processen. Naarmate de Amerikaanse verkiezingen van 2024 naderen, zijn de zorgen over door AI gegenereerde desinformatie, deepfakes en misleidende media prominenter dan ooit. Gelukkig erkennen overheden en techbedrijven de noodzaak van actie, maar er moet nog veel werk worden verzet om de democratie te beschermen.
Recentelijk hebben deelnemers van de Munich Security Conference, waaronder OpenAI, Apple, Meta, Microsoft, TikTok, Google en anderen, zich verenigd om de uitdagingen die AI met zich meebrengt bij verkiezingen aan te pakken. Ze hebben beloofd maatregelen te nemen om de herkomst van door AI gegenereerde content te traceren, misleidende media te detecteren en voorzorgsmaatregelen te implementeren tegen door AI geleide bedriegerij. Hoewel deze toezeggingen een stap in de goede richting zijn, hangt hun succes af van een effectieve uitvoering.
Door de opkomst van generatieve AI-technologie kunnen oplichters ongelooflijk realistische nepbeelden, video’s en audio van kandidaten en functionarissen creëren. Deze creaties kunnen zich razendsnel verspreiden, tegen minimale kosten en op grote schaal. Bovendien stellen door AI aangedreven chatbots kwaadwillenden, zowel binnenlands als buitenlands, in staat om in enkele seconden nepverkiezingswebsites en misleidende nieuwssites te creëren. Deze mogelijkheid biedt slechte actoren middelen om invloedcampagnes uit te voeren die moeilijk te traceren zijn.
De integratie van generatieve AI in zoekmachines en chatbots heeft geleid tot situaties waarin kiezers die verkiezingsinformatie zoeken, worden geconfronteerd met misinformatie of worden doorverwezen naar randwebsites. Studies hebben aangetoond dat populaire AI-tools vaak slecht presteren bij bepaalde verkiezingsgerelateerde vragen. Bovendien kunnen traditionele AI-technologieën bijdragen aan uitdagingen met betrekking tot kiesgerechtigdheid, wat mogelijk leidt tot onterechte verwijderingen uit kiezersregisters.
Om deze uitdagingen aan te gaan, hebben AI-bedrijven, zoals OpenAI, beleid geïmplementeerd om verkiezingsgerelateerde schade te beperken. OpenAI heeft gebruikers verboden om AI-chatbots te bouwen die kandidaten imiteren en valse informatie over stemmen verspreiden. Bovendien hebben ze stappen ondernomen om afbeeldingen te versleutelen om ongeautoriseerd gebruik te detecteren. Deze acties hebben echter nog steeds beperkingen en er moet meer worden gedaan.
Een cruciaal aspect dat aandacht behoeft, is het aanpakken van valse narratieven en afbeeldingen die eerdere verkiezingscycli hebben geteisterd. Het beleid van OpenAI verbiedt niet expliciet de creatie en verspreiding van content die vals verkiezingsinmenging, onbetrouwbare stemmachines of wijdverbreide stemfraude laat zien. Een expliciet verbod op deze categorieën zou meer duidelijkheid en bescherming bieden voor kiezers.
Samenwerking met externe ontwikkelaars is een ander gebied dat aandacht behoeft. Wanneer externe zoekmachines OpenAI-modellen gebruiken, kunnen de gegeven antwoorden onnauwkeurig of verouderd zijn. Strengere eisen voor samenwerkingen en integratie van OpenAI-modellen in zoekmachines en digitale platforms zouden kiezers beter beschermen die informatie zoeken over stemmen en verkiezingen.
OpenAI kan deze uitdagingen niet alleen aanpakken. Andere grote techbedrijven zouden ook hun eigen verkiezingsbeleid voor generatieve AI-tools moeten vrijgeven en transparant moeten zijn over hun praktijken. De open standaard van de Coalition for Content Provenance and Authenticity voor het embedden van inhoud met digitale markers moet breed worden overgenomen.
Veelgestelde Vragen
The source of the article is from the blog foodnext.nl