Het toonaangevende kunstmatige intelligentie-beeldgeneratorplatform Midjourney heeft onlangs nieuwe richtlijnen geïmplementeerd om het maken van nepafbeeldingen van President Joe Biden en voormalig President Donald Trump te blokkeren. Deze beslissing komt te midden van de aanstaande Amerikaanse presidentsverkiezingen.
Tijdens een digitaal evenement voor kantooruren benadrukte CEO David Holz van Midjourney de noodzaak om verkiezingsgerelateerde kwesties aan te pakken door tijdelijk de creatie van misleidende afbeeldingen met behulp van de AI-tool te beperken. Hoewel de exacte details van de beleidswijzigingen niet zijn bekendgemaakt, benadrukte Holz het belang van het voorkomen van misbruik van de tool.
De nieuwe beleidsmaatregel van Midjourney werd getest door The Associated Press, die een afbeelding aanvroeg van “Trump en Biden die handen schudden op het strand”. De tool reageerde met een “Verboden Prompt Gedetecteerd” waarschuwing gevolgd door een “Misbruik Alert” bij een daaropvolgende poging.
Deze stap plaatst Midjourney apart van andere toonaangevende beeldgeneratietools, aangezien het bedrijf eerder dit jaar niet deelnam aan een vrijwillig pact in de techindustrie dat gericht was op de bestrijding van door AI gegenereerde deepfakes. Holz verduidelijkte dat het doel van Midjourney niet politieke uitspraken zijn, maar het bedrijf erkent nog steeds de noodzaak om mogelijke misbruiken aan te pakken.
Volgens een rapport van het Center for Countering Digital Hate had Midjourney minder controles in vergelijking met andere AI-beeldgeneratoren als het ging om het genereren van afbeeldingen van bekende politieke figuren. Promptafbeeldingen van kandidaten als Joe Biden en Donald Trump werden overtuigend geproduceerd door Midjourney, wat zorgen deed rijzen over de mogelijke verspreiding van desinformatie.
Echter, de beslissing van Midjourney om dergelijke afbeeldingen te blokkeren kan helpen deze zwakte aan te pakken en het meer in lijn te brengen met andere beeldgeneratietools die getest zijn in het rapport. Het is vermeldenswaard dat het rapport algemene problemen met zich bracht bij het genereren van verkiezingsdesinformatie onder meerdere beeldgeneratoren.
De gebruikersbasis van Midjourney opereert in openbare forums op Discord, waardoor gebruikers geschreven prompts en afbeeldingen van anderen kunnen zien. De Discord-groep van het bedrijf heeft een enorme hoeveelheid leden, met meer dan 19 miljoen gebruikers, en dient als een platform voor discussies over AI en de implicaties ervan voor de mensheid.
Holz speculeerde ook over de toekomst van deepfake-technologie, waarbij hij voorspelde dat tegen 2028 alle politieke kandidaten realistisch uitziende “deepfake chatbots” zullen hebben met gesimuleerde standpunten. Dit roept zorgen op over de mogelijke opkomst van geavanceerdere nepcontent die kan worden gebruikt om de publieke opinie te manipuleren.
Midjourney, opgericht in 2020, positioneert zich als een onafhankelijk onderzoekslaboratorium dat nieuwe denkwijzen en de verbeeldingskracht van de mensheid wil verkennen en uitbreiden. Ondanks de toewijding van het bedrijf aan het mogelijk maken van een breed scala aan beeldcreatie, modereert het bedrijf actief de inhoud om te voorkomen dat kwetsende en schadelijke materialen worden geproduceerd.
Met de Amerikaanse presidentsverkiezingen in zicht, benadrukken de stappen die worden ondernomen door AI-beeldgenererende tools zoals Midjourney de voortdurende uitdaging om misinformatie te bestrijden en de integriteit van politieke discussies te waarborgen.
FAQ
1. Wat is Midjourney?
Midjourney is een populair kunstmatige intelligentie beeldgenerator waarmee gebruikers verschillende afbeeldingen kunnen maken met behulp van AI-algoritmes.
2. Waarom blokkeert Midjourney afbeeldingen van Presidenten Biden en Trump?
Midjourney heeft een tijdelijk beleid geïmplementeerd om de creatie van nepafbeeldingen van President Joe Biden en voormalig President Donald Trump te beperken om misbruik van de tool tijdens de aankomende Amerikaanse presidentsverkiezingen te voorkomen.
3. Hoe verschilt Midjourney van andere beeldgenererende tools?
In tegenstelling tot andere beeldgenererende tools, opereert Midjourney op openbare forums, zoals een Discord groep met meer dan 19 miljoen leden. Dit stelt gebruikers in staat om prompts en afbeeldingen van andere gebruikers te zien.
4. Zal het blokkeren van afbeeldingen door Midjourney de verspreiding van desinformatie verminderen?
Het blokkeren van afbeeldingen van politieke figuren zoals Biden en Trump kan helpen bij het aanpakken van de mogelijke verspreiding van desinformatie. Echter, het bredere probleem van het genereren van verkiezingsgerelateerde desinformatie blijft een uitdaging voor AI-beeldgenererende tools.
The source of the article is from the blog combopop.com.br