Midjourney: la decisione di bloccare le immagini AI-generate di Trump e Biden
Midjourney, il noto generatore di immagini con intelligenza artificiale, ha avviato una misura temporanea per bloccare i suoi utenti dal creare immagini fake del Presidente Joe Biden e dell’ex Presidente Donald Trump in vista delle elezioni presidenziali negli Stati Uniti. La decisione è stata presa dopo test condotti dall’Associated Press che hanno rivelato il potenziale per un uso improprio dello strumento. Il CEO di Midjourney, David Holz, ha spiegato che l’azienda vuole prendere posizione contro la disinformazione legata alle elezioni, ma non ha fornito dettagli specifici sulle modifiche di policy in corso.
L’iniziativa di Midjourney, che conta solo 11 dipendenti secondo il proprio sito web, si differenzia dalle azioni di altri principali strumenti generatore di immagini. L’azienda non ha aderito a un patto settoriale volontario volto a contrastare i deepfake generati dall’IA mirati a ingannare gli elettori. Holz ha chiarito che lo scopo principale di Midjourney non è legato al discorso politico, ma l’azienda vuole evitare di spendere eccessivo tempo nel controllo di tali contenuti.
I critici hanno sollevato preoccupazioni sul potenziale della tecnologia di Midjourney nel alimentare campagne di disinformazione e falsi reclami di brogli elettorali. Il Center for Countering Digital Hate ha recentemente pubblicato un report che indica che Midjourney è già stato utilizzato per creare immagini che potrebbero supportare tale disinformazione. Callum Hood, responsabile della ricerca presso l’organizzazione, ha sottolineato che Midjourney si distingue come il generatore di immagini AI con il minor numero di controlli quando si tratta di produrre immagini di figure politiche conosciute come Biden e Trump. Il gruppo di controllo ha testato anche altri strumenti, tra cui ChatGPT Plus di OpenAI, DreamStudio di Stability AI e Image Creator di Microsoft, tutti i quali hanno dimostrato qualche problema nella generazione di disinformazioni legate alle elezioni.
Nonostante la decisione di Midjourney di bloccare la creazione di immagini di Trump e Biden, ci sono stati casi in cui gli utenti hanno creato con successo tali contenuti in passato. Tuttavia, il database pubblico dell’azienda indica che questo è cambiato di recente, con gli utenti che segnalano avvertimenti nel tentativo di generare immagini delle due figure politiche. Alcuni utenti hanno espresso frustrazione per la mancanza di una comunicazione chiara da parte di Midjourney riguardo alla sua politica riveduta.
Uno degli aspetti che contraddistingue Midjourney da altri generatori di immagini è la sua natura pubblica. Gli utenti possono visualizzare i prompt e le immagini degli altri sulla piattaforma di social media Discord, dove è situato il gruppo più numeroso di Midjourney, composto da più di 19 milioni di membri. Il CEO David Holz interagisce regolarmente con gli utenti in questo gruppo, approfondendo discussioni su un’ampia gamma di argomenti legati all’IA e al futuro dell’umanità.
Nonostante il blocco temporaneo di Midjourney possa affrontare le preoccupazioni sulle immagini AI-generate per le prossime elezioni, Holz prevede che il panorama cambierà notevolmente in futuro. Egli ritiene che entro il 2028, tutti i candidati avranno “chatbot deepfake” realistici che simulano punti di vista. Holz avverte che gli individui determinati a creare deepfake troveranno metodi alternativi che possono essere personalizzati per obiettivi specifici e dimostrare maggiore efficacia rispetto ai sistemi esistenti.
Fondato nel 2020 e con sede vicino a San Francisco, Midjourney si pone come un laboratorio di ricerca indipendente focalizzato sull’esplorare nuove forme di pensiero e ampliare le capacità immaginative degli esseri umani. Nel luglio 2022, l’azienda ha introdotto la versione pubblica del suo generatore di immagini, generando un interesse significativo nel campo della tecnologia generativa AI. Nonostante si sforzi di consentire agli utenti la libertà di creare un’ampia gamma di immagini, Midjourney blocca attivamente contenuti offensivi e dannosi. L’azienda utilizza filtri di parole chiave e mantiene un team di moderatori che affrontano le lamentele degli utenti.
FAQ
The source of the article is from the blog elblog.pl