OpenAI, de maker van het conversational AI-programma bekend als ChatGPT, heeft verschillende organisaties geïdentificeerd die zijn gevestigd in Rusland, China en andere regio’s, die naar verluidt AI inzetten om de publieke opinie te beïnvloeden.
Deze groepen, die hun identiteit liever vertrouwelijk houden, hebben AI gegenereerde tekst en het aanmaken van sociale media-accounts ingezet, evenals AI gebruikt voor programmeertaken. In hun operaties hebben ze zich gericht op gevoelige geopolitieke kwesties, waaronder de Russische invasie van Oekraïne, conflicten in Gaza en Amerikaanse politiek.
Onder hen is een in China gevestigde organisatie bijzonder actief geweest, met het genereren van inhoud die de omstreden lozing van behandeld water uit de kerncentrale Fukushima Daiichi in Japan bekritiseert. De operatie strekte zich ook uit tot Japanse taalberichten online. Berichten geven echter aan dat deze AI-gegenereerde boodschappen weinig kijkers op sociale-mediaplatforms hebben bereikt.
Verder onthulde OpenAI dat er gevallen zijn geweest waarbij pogingen om propagandistische beelden te genereren via AI-tools werden geweigerd door de software, waarbij de ethische waarborgen werden benadrukt om misbruik te voorkomen. OpenAI heeft een rapport vrijgegeven waarin deze bedreigingen worden uitgelicht op dezelfde dag als de bevindingen werden aangekondigd, waarbij het belang van het monitoren en reguleren van het gebruik van AI werd benadrukt om dergelijke manipulatieve praktijken te voorkomen.
Belang en Relevantie van AI bij het Manipuleren van de Publieke Opinie:
Het gebruik van AI bij het manipuleren van de publieke opinie is een belangrijke zorg, omdat het politieke verkiezingen kan beïnvloeden, de publieke opinie over belangrijke kwesties kan veranderen en zelfs conflicten kan aanwakkeren tussen verschillende groepen. Kunstmatige intelligentie-tools, zoals die ontwikkeld zijn voor het creëren van deepfakes of het schrijven van overtuigende teksten, kunnen desinformatie op schaal verspreiden en met een snelheid die ver boven menselijke mogelijkheden uitgaat.
Belangrijke Vragen en Antwoorden:
– Met welke middelen proberen organisaties de publieke opinie met behulp van AI te manipuleren?
Organisaties gebruiken AI om overtuigende tekst te genereren, realistische beelden of video’s te fabriceren (deepfakes), valse sociale media-profielen aan te maken en de verspreiding van misinformatie te automatiseren.
– Hoe voorkomt OpenAI dat haar tools worden gebruikt voor propaganda?
OpenAI implementeert ethische waarborgen en toezichtmechanismen die de software kunnen detecteren en voorkomen dat er inhoud wordt gegenereerd die bedoeld is voor propaganda of misinformatie.
– Met welke uitdagingen gaat de regulering van het gebruik van AI voor manipulatie gepaard?
De verspreiding van AI-tools en technologieën over internationale grenzen maakt het moeilijk om reguleringen af te dwingen. Bovendien kunnen de zich ontwikkelende mogelijkheden van AI het opstellen van effectieve governance-frameworks voorbijstreven.
Belangrijke Uitdagingen en Controverses:
De belangrijkste uitdagingen bij het aanpakken van het gebruik van AI voor het manipuleren van de publieke opinie omvatten het identificeren en toeschrijven van kwaadwillige activiteiten aan specifieke actoren, aangezien velen hun identiteit verbergen of vanuit het buitenland opereren. Daarnaast is er een voortdurend debat over de balans tussen vrijheid van meningsuiting en de noodzaak om valse informatie te beteugelen, evenals de rol van techbedrijven versus overheidsinstanties bij het reguleren van inhoud.
Voordelen van AI:
– Maakt efficiënte verwerking en analyse van gegevens mogelijk om trends in de publieke opinie te begrijpen.
– Vergemakkelijkt snelle verspreiding van informatie voor legitiem nieuws of noodwaarschuwingen.
Nadelen van AI:
– AI kan worden gebruikt om valse verhalen te versterken en geraffineerde desinformatiecampagnes te creëren.
– Wekt zorgen op over het ondermijnen van het vertrouwen in de media en democratische instellingen.
Regelgevende Inspanningen en Ethische Overwegingen:
Vorderingen in AI hebben discussies aangewakkerd over het ethisch gebruik en regulerende maatregelen om misbruik ervan in de politieke arena te voorkomen. Organisaties en overheden wereldwijd zijn nu meer bewust en werken steeds meer aan het ontwikkelen van beleid om de ethische uitdagingen van AI aan te pakken.
Als u meer wilt lezen over de implicaties van AI en de algehele maatschappelijke impact ervan, kunt u de volgende links verkennen:
– OpenAI
– United Nations Digital Cooperation
– World Health Organization (voor AI-kwesties met betrekking tot gezondheid)
The source of the article is from the blog procarsrl.com.ar