Midjourney, il famoso generatore di immagini con intelligenza artificiale, ha annunciato di recente che bloccherà temporaneamente i suoi utenti dal creare immagini false del Presidente Joe Biden e dell’ex Presidente Donald Trump. Questa decisione arriva in un momento cruciale durante le elezioni presidenziali degli Stati Uniti e mira a prevenire che lo strumento venga utilizzato impropriamente per fini politici. Il CEO di Midjourney, David Holz, ha annunciato questa misura durante un evento in modalità digitale, sottolineando che la moderazione di tale contenuto è complicata e il blocco rappresenta una misura temporanea per affrontare il problema.
Nonostante l’azienda non abbia fornito dettagli specifici sulle modifiche alla politica, Holz ha enfatizzato che l’obiettivo è rendere più difficile abusare dello strumento di intelligenza artificiale. Midjourney non ha risposto alle richieste per ulteriori commenti sulla questione.
I report indicano che la nuova politica è già in fase di attuazione, poiché test condotti da giornalisti dell’Associated Press hanno portato a messaggi di avviso nel tentativo di generare immagini di “Trump e Biden che si stringono la mano sulla spiaggia”. Gli avvisi sono passati a una “allerta per abuso” al secondo tentativo.
Questa mossa da parte di Midjourney si allinea agli sforzi per affrontare le preoccupazioni legate agli strumenti di intelligenza artificiale generativa e al potenziale di disinformazione durante le elezioni. Durante una recente intervista, Callum Hood, responsabile della ricerca presso il Center for Countering Digital Hate, ha affermato che Midjourney è stato identificato come il tool con il minor numero di controlli tra i principali strumenti di generazione di immagini quando si tratta di creare immagini convincenti di figure politiche come Biden e Trump. Il rapporto del gruppo ha inoltre rivelato che Midjourney è stato il peggiore tra gli strumenti testati, fallendo nel 65% dei casi e contribuendo alla disinformazione elettorale.
È importante sottolineare che la decisione di Midjourney di bloccare la creazione di immagini false di Biden e Trump contribuisce ad affrontare un’importante debolezza rispetto ad altri generatori d’immagini popolari. Tuttavia, resta da vedere se questi cambiamenti alla politica avranno un impatto duraturo sulla diffusione dei deepfake politici.
In modo interessante, Midjourney opera in modo diverso rispetto ad altri generatori d’immagini poiché i suoi utenti possono visualizzare e interagire con i prompt e le immagini degli altri pubblicamente sulla piattaforma di social media Discord. Questo coinvolgimento pubblico ha portato al gruppo Discord di Midjourney a diventare il più grande sulla piattaforma con oltre 19 milioni di membri. Il CEO David Holz utilizza frequentemente questa piattaforma per le sue ore di ufficio settimanali, in cui discute argomenti di vasta portata legati all’intelligenza artificiale e al futuro dell’umanità.
In una dichiarazione prospettica, Holz ha espresso la sua anticipazione che il panorama delle immagini false evolverà significativamente nei prossimi anni. Ha previsto che entro il 2028, tutti i candidati presidenziali avranno “chatbot deepfake” dal look reale con punti di discussione simulati. Nonostante il blocco temporaneo sulla creazione di immagini false, Holz ha avvertito che le persone determinate a creare deepfake troveranno alternative ancora più sofisticate e capaci rispetto ai sistemi esistenti.
Fondato nel 2020 e con sede nei pressi di San Francisco, Midjourney si descrive come un laboratorio di ricerca indipendente focalizzato sull’esplorare nuovi processi di pensiero e sull’espandere i poteri immaginifici dell’umanità. Dopo aver presentato il suo generatore di immagini pubblico nel 2022, l’azienda ha attirato significativa attenzione nello spazio della tecnologia AI generativa.
Domande Frequenti
Cos’è Midjourney?
Midjourney è un generatore di immagini con intelligenza artificiale sviluppato da un laboratorio di ricerca indipendente. Permette agli utenti di generare immagini realistiche basate su vari input.
Perché Midjourney ha bloccato la creazione di immagini false di Biden e Trump?
Con le elezioni presidenziali degli Stati Uniti in corso, Midjourney ha implementato un blocco temporaneo per impedire l’abuso del proprio strumento per fini politici e per affrontare la potenziale diffusione di disinformazione elettorale.
In cosa differisce Midjourney dagli altri generatori d’immagini?
Una differenza chiave è che Midjourney opera sulla piattaforma di social media Discord, dove gli utenti possono visualizzare e interagire pubblicamente con i prompt e le immagini degli altri.
Cosa riserva il futuro per le immagini false?
Il CEO di Midjourney, David Holz, prevede che il panorama delle immagini false continuerà a evolversi, con i potenziali candidati presidenziali che potrebbero utilizzare chatbot deepfake più sofisticati in futuro.
Fonte: The Associated Press.
Definizioni:
- Intelligenza Artificiale (AI): Si riferisce alla simulazione dell’intelligenza umana nelle macchine programmate per pensare e apprendere come gli esseri umani, consentendo loro di svolgere compiti che richiedono tipicamente intelligenza umana.
- Generatore d’Immagini: Uno strumento o software che genera immagini basate su determinati input o prompt.
- Abuso: L’utilizzo improprio o non autorizzato di qualcosa, in questo caso, si riferisce all’uso del generatore di immagini per fini politici che potrebbero diffondere disinformazione.
- Moderazione: L’atto di monitorare e controllare il contenuto o il comportamento per garantire il rispetto di determinati standard o regole.
- Strumenti di Intelligenza Artificiale Generativa: Strumenti di intelligenza artificiale che possono generare contenuti nuovi e originali, come immagini, basati su determinati input o prompt.
- Deepfake: Media manipolato artificialmente, solitamente sotto forma di video o immagini, che mostrano individui dire o fare cose che in realtà non hanno mai detto o fatto.
- Discord: Una piattaforma di social media che consente agli utenti di creare comunità e interagire tra loro attraverso canali di testo, voce e video.
The source of the article is from the blog lanoticiadigital.com.ar