Midjourney, de populaire kunstmatige intelligentie beeldgenerator, heeft een tijdelijke maatregel ingevoerd om zijn gebruikers te blokkeren bij het maken van nepbeelden van President Joe Biden en voormalig President Donald Trump in aanloop naar de Amerikaanse presidentsverkiezingen. Dit besluit kwam na tests uitgevoerd door The Associated Press die het potentieel voor misbruik van de tool aantoonden.
CEO David Holz verklaarde dat het bedrijf een standpunt wil innemen tegen verkiezingsgerelateerde misinformatie, maar hij gaf geen specifieke details over de beleidswijzigingen die worden doorgevoerd.
De actie van Midjourney, dat volgens haar website slechts 11 mensen in dienst heeft, verschilt van de acties van andere toonaangevende beeldgenererende tools. Het bedrijf heeft niet deelgenomen aan een vrijwillig pact in de industrie dat tot doel had om AI gegenereerde deepfakes te bestrijden die bedoeld zijn om kiezers te misleiden.
Kritici hebben zorgen geuit over het potentieel van de technologie van Midjourney om desinformatiecampagnes en valse claims van verkiezingsfraude aan te wakkeren. Een rapport van de Center for Countering Digital Hate wees erop dat Midjourney al is gebruikt om beelden te maken die dergelijke desinformatie kunnen ondersteunen.
Hoewel Midjourney heeft besloten om de creatie van Trump- en Biden-beelden te blokkeren, zijn er gevallen geweest waarin gebruikers met succes dergelijke inhoud hebben geproduceerd in het verleden.
Een aspect dat Midjourney onderscheidt van andere beeldgeneratoren is haar openbare karakter. Gebruikers kunnen elkaars prompts en beelden bekijken op het socialemediaplatform Discord, waar de grootste groep van Midjourney, bestaande uit meer dan 19 miljoen leden, zich bevindt. CEO David Holz communiceert regelmatig met gebruikers in deze groep, waarbij hij discussies aangaat over een breed scala van onderwerpen gerelateerd aan AI en de toekomst van de mensheid.
Hoewel de tijdelijke blokkering van Midjourney wellicht zorgen over AI-gegenereerde beelden voor de komende verkiezingen adresseert, voorspelt Holz dat het landschap in de toekomst aanzienlijk zal veranderen. Hij gelooft dat tegen 2028 alle kandidaten realistische “deepfake chatbots” zullen hebben die praatpunten simuleren.
Opgericht in 2020 en gevestigd nabij San Francisco, positioneert Midjourney zich als een onafhankelijk onderzoekslaboratorium gericht op het verkennen van nieuwe vormen van denken en het uitbreiden van de verbeeldingscapaciteiten van mensen. In juli 2022 introduceerde het bedrijf de publieke versie van haar beeldgenerator, wat aanzienlijke interesse wekte in het veld van generatieve AI-technologie. Ondanks dat Midjourney gebruikers de vrijheid wil geven om een breed scala aan beelden te creëren, blokkeert het actief beledigende en schadelijke inhoud.
FAQ
Q: Waarom heeft Midjourney besloten om de creatie van AI-gegenereerde beelden van Biden en Trump te blokkeren?
A: Midjourney heeft een tijdelijke maatregel geïmplementeerd om de creatie van nepbeelden van de twee politieke figuren te voorkomen vanwege zorgen over verkiezingsgerelateerde misinformatie.
Q: Hoe verhoudt de reactie van Midjourney zich tot andere beeldgenererende tools?
A: Hoewel Midjourney stappen heeft ondernomen om mogelijk misbruik van haar technologie aan te pakken, heeft het niet deelgenomen aan een vrijwillig pact in de techindustrie dat gericht is op het bestrijden van door AI gegenereerde deepfakes. Andere toonaangevende beeldgenererende tools werden ook geconfronteerd met uitdagingen bij het voorkomen van de generatie van verkiezingsdesinformatie.
Q: Welke kritieken zijn geuit tegen Midjourney?
A: Critici betogen dat de beeldgenerator van Midjourney kan bijdragen aan desinformatiecampagnes en valse claims van verkiezingsfraude.
Q: Wat is uniek aan de aanpak van Midjourney in vergelijking met andere beeldgeneratoren?
A: Een kenmerkend element van Midjourney is dat het platform opereert in openbare fora op het socialemediaplatform Discord, waardoor gebruikers elkaars prompts en beelden kunnen bekijken.
Q: Wat voorspelt de CEO van Midjourney voor de toekomst van valse beelden?
A: De CEO van Midjourney voorspelt een toekomst waarin alle kandidaten realistische “deepfake chatbots” zullen hebben die praatpunten simuleren, waardoor de creatie van valse beelden nog geavanceerder wordt.
Definities:
– AI-beeldgenerator: Een tool of software die kunstmatige intelligentie gebruikt om beelden te genereren.
– Deepfakes: Kunstmatig gemanipuleerde of gesynthetiseerde media, meestal afbeeldingen of video’s, die gebeurtenissen of situaties afbeelden die nooit werkelijk hebben plaatsgevonden.
The source of the article is from the blog toumai.es