In een verontrustende openbaring heeft Microsoft gewaarschuwd dat China van plan is om aankomende verkiezingen in India, de Verenigde Staten en Zuid-Korea te verstoren door gebruik te maken van door kunstmatige intelligentie (AI) gegenereerde inhoud. Deze waarschuwing komt nadat China een proef heeft uitgevoerd tijdens de presidentiële verkiezingen in Taiwan, waarbij AI werd gebruikt om de uitkomst van de verkiezingen te beïnvloeden.
Met naar verwachting 64 landen, samen met de Europese Unie, die nationale verkiezingen zullen houden, goed voor bijna de helft van de wereldbevolking, heeft het threat intelligence-team van Microsoft Chinese door de staat gesteunde cybergroepen geïdentificeerd, samen met betrokkenheid van Noord-Korea, als significante bedreigingen voor verschillende verkiezingen die gepland staan voor 2024. Het hoofddoel van deze groepen is het gebruik van door AI gegenereerde inhoud via sociale mediaplatforms om de publieke opinie te beïnvloeden ten gunste van hun belangen tijdens deze verkiezingen.
Het gebruik van AI-technologie in politieke advertenties brengt een aanzienlijke bedreiging met zich mee, namelijk het produceren van misleidende en valse inhoud, inclusief deepfakes en gefabriceerde gebeurtenissen. Deze tactieken zijn erop gericht het publiek te misleiden over verklaringen van kandidaten, hun standpunten over verschillende kwesties en zelfs de authenticiteit van bepaalde gebeurtenissen. Als deze manipulatieve pogingen ongecontroleerd blijven, bestaat het potentieel dat ze het vermogen van kiezers om weloverwogen beslissingen te nemen, ondermijnen.
Hoewel de onmiddellijke impact van door AI gegenereerde inhoud relatief laag blijft, waarschuwt Microsoft voor de toenemende experimenten die China uitvoert, wat in de loop van de tijd effectiever zou kunnen worden. De vorige poging van China om de verkiezingen in Taiwan te beïnvloeden, omvatte de verspreiding van door AI gegenereerde desinformatie, wat de eerste keer was dat een door de staat gesteunde entiteit dergelijke tactieken in een buitenlandse verkiezing gebruikte. Tijdens de Taiwanese verkiezing circuleerde een door Peking gesteunde groep genaamd Storm 1376 door AI gegenereerde inhoud, zoals valse audiobevestigingen en memes, bedoeld om bepaalde kandidaten in diskrediet te brengen en kiezerspercepties te beïnvloeden. Soortgelijke tactieken zijn toegepast door Iran, inclusief het gebruik van door AI gegenereerde tv-nieuwsankers.
China voert ook beïnvloedingscampagnes uit in de Verenigde Staten, waarbij sociale mediaplatforms worden benut om verdeeldheid zaaiende vragen te stellen en informatie te verzamelen over belangrijke stemmingsdemografieën. Hoewel er weinig bewijs is dat deze inspanningen succesvol zijn geweest in het beïnvloeden van de opinie, is er een toegenomen gebruik van door AI gegenereerde Chinese content bij pogingen om invloed uit te oefenen en verdeeldheid te zaaien over verschillende onderwerpen, waaronder recente gebeurtenissen zoals de treinontsporing in Kentucky, de Maui-bosbranden, de lozing van Japans nucleair afvalwater, drugsgebruik in de VS, immigratiebeleid en raciale spanningen in het land.
De dreiging van door AI gegenereerde inhoud strekt zich uit buiten de Verenigde Staten en Taiwan. Voorafgaand aan de Democratische voorverkiezingen van 2024 in New Hampshire bootste een door AI gegenwoordigd telefoontje de stem van president Joe Biden na en adviseerde kiezers om niet deel te nemen aan de stemming, waarbij ten onrechte werd gesuggereerd dat president Biden zelf deze richtlijn had goedgekeurd. Hoewel er geen bewijs is van Chinese betrokkenheid bij dit specifieke geval, benadrukt dit hoe AI een directe bedreiging vormt voor democratische praktijken.
Naarmate de algemene verkiezingen in India naderen, heeft de Election Commission of India (ECI) al richtlijnen en protocollen verstrekt om snel valse informatie en desinformatie te identificeren en erop te reageren. OpenAI, de ontwikkelaar van ChatGPT, heeft ook een ontmoeting gehad met de ICI en heeft de maatregelen uiteengezet om het misbruik van AI bij de aankomende verkiezingen te voorkomen.
China’s gebruik van door AI gegenereerde inhoud om wereldwijde verkiezingen te beïnvloeden, vormt een significante bedreiging voor democratische processen. Aangezien de technologie blijft evolueren, is het cruciaal voor overheden en organisaties wereldwijd om waakzaam te blijven bij het bestrijden van desinformatie en het waarborgen van de integriteit van verkiezingen.
Veelgestelde Vragen (FAQ)
The source of the article is from the blog tvbzorg.com