Midjourney, den populära artificiell intelligens-bildgeneratorn, har nyligen meddelat att man kommer att temporärt blockera sina användare från att skapa falska bilder av President Joe Biden och tidigare President Donald Trump. Beslutet kommer mitt under den pågående amerikanska presidentvalet och syftar till att förhindra att verktyget missbrukas i politiska syften. Midjourney’s VD David Holz gjorde tillkännagivandet under en digital kontorstidsevenemang och betonade att modereringen av sådant innehåll är utmanande och att blockeringen är ett tillfälligt åtgärd för att adressera problemet.
Även om företaget inte gav specifika detaljer om policyn, så poängterade Holz att målet är att göra det svårare för människor att missbruka AI-verktyget. Midjourney har inte svarat på förfrågningar om ytterligare kommentarer i frågan.
Rapporter visar att den nya policyn redan håller på att implementeras, då tester utförda av journalister från The Associated Press resulterade i varningsmeddelanden när man försökte skapa bilder på ”Trump och Biden skakar hand på stranden.” Varningarna eskalerade till en ”missbrukvarning” vid ett andra försök.
Detta drag av Midjourney överensstämmer med ansträngningarna att hantera farhågorna kring generativa AI-verktyg och potentialen för valfalsinformation. Under en nyligen intervju, sa Callum Hood, chef för forskning vid Center for Countering Digital Hate, att Midjourney ansågs ha minst kontroller bland ledande bildgenereringsverktyg när det gällde att skapa övertygande bilder av politiska figurer som Biden och Trump. Gruppens rapport visade också att Midjourney presterade sämst bland de testade verktygen, med misslyckande i 65% av fallen och bidrog till valdesinformation.
Det är värt att notera att Midjourneys beslut att blockera skapandet av falska bilder på Biden och Trump hjälper till att hantera en betydande svaghet jämfört med andra populära bildgeneratorer. Dock återstår det att se om dessa policys förändringar kommer att ha en långsiktig effekt på spridningen av politiska deepfakes.
Intressant nog fungerar Midjourney på ett annorlunda sätt jämfört med andra bildgenereringsverktyg, i det att användare kan se och interagera med varandras inmatningar och bilder offentligt på sociala medieplattformen Discord. Denna offentliga interaktion har lett till att Midjourneys Discord-grupp har blivit den största på plattformen med över 19 miljoner medlemmar. VD David Holz använder regelbundet denna plattform för sina veckovisa kontorstider, där han diskuterar mångsidiga ämnen relaterade till AI och mänsklighetens framtid.
I ett framåtblickande uttalande uttryckte Holz sin förväntan om att landskapet av falska bilder kommer att utvecklas betydligt de kommande åren. Han förutsåg att år 2028 kommer alla presidentkandidater ha realistiska ”deepfake chatbots” med simulerade argumentationspunkter. Trots det temporära blocket för skapandet av falska bilder, varnade Holz för att personer som är beslutna att skapa deepfakes kommer att hitta alternativ som är ännu mer sofistikerade och kapabla än befintliga system.
Midjourney, grundat 2020 och baserat nära San Francisco, beskriver sig som ett oberoende forskningslaboratorium som fokuserar på att utforska nya tankegångar och utvidga mänsklighetens fantasikrafter. Sedan man avslöjade sin offentliga bildgenerator 2022, har företaget väckt betydande uppmärksamhet inom generativ AI-teknikområdet.
FAQ
Vad är Midjourney?
Midjourney är en artificiell intelligens-bildgenerator utvecklad av ett oberoende forskningslaboratorium. Den möjliggör för användare att skapa realistiska bilder baserat på olika inmatningar.
Varför blockerade Midjourney skapandet av falska Biden- och Trump-bilder?
Med det amerikanska presidentvalet inom räckhåll implementerade Midjourney ett tillfälligt block för att förhindra missbruk av verktyget för politiska ändamål och för att hantera risken för valdisinformation.
Hur skiljer sig Midjourney från andra bildgenereringsverktyg?
En nyckelskillnad är att Midjourney verkar på sociala medieplattformen Discord, där användare kan se och interagera med varandras inmatningar och bilder offentligt.
Vad bjuder framtiden på för falska bilder?
Midjourneys VD David Holz förutser att landskapet av falska bilder kommer fortsätta att utvecklas, med presidentkandidater som potentiellt kommer att använda mer sofistikerade ”deepfake chatbots” i framtiden.
Källa: The Associated Press.
Definitioner:
– Artificiell intelligens (AI): Refererar till simuleringen av mänsklig intelligens i maskiner som är programmerade att tänka och lära som människor, vilket gör att de kan utföra uppgifter som vanligtvis kräver mänsklig intelligens.
– Bildgenerator: Ett verktyg eller programvara som genererar bilder baserat på vissa inmatningar eller anvisningar.
– Misshandel: Den felaktiga eller obehöriga användningen av något, i detta fall syftar det på användningen av bildgeneratorn för politiska ändamål som kan sprida desinformation.
– Moderering: Akten att övervaka och kontrollera innehåll eller beteende för att säkerställa att det följer vissa standarder eller regler.
– Generativa AI-verktyg: AI-verktyg som kan skapa nytt och originellt innehåll, såsom bilder, baserat på vissa inmatningar eller anvisningar.
– Deepfakes: Konstgjort manipulerat medier, vanligtvis i form av videor eller bilder, som avbildar individer säga eller göra saker de aldrig faktiskt sagt eller gjort.
– Discord: En social media plattform som låter användare skapa gemenskaper och interagera med varandra genom text-, röst- och videokanaler.
Relaterade länkar:
– Midjourney: Officiell webbplats för Midjourney, den artificiell intelligens-bildgeneratorn.
– Deepfakes: Information från Anti-Defamation League om deepfakes och deras konsekvenser.
– Discord: Officiell webbplats för Discord, den sociala medieplattform där Midjourney verkar.
The source of the article is from the blog lisboatv.pt