Midjourney, renumitul generator de imagini cu inteligență artificială, a anunțat recent că va bloca temporar utilizatorii săi de la crearea de imagini false cu președintele Joe Biden și fostul președinte Donald Trump. Decizia vine în contextul alegerilor prezidențiale din SUA și își propune să prevină utilizarea abuzivă a instrumentului în scopuri politice. CEO-ul Midjourney, David Holz, a făcut anunțul în cadrul unui eveniment de întâlniri online, afirmând că moderarea unui astfel de conținut este dificilă și blocarea este o măsură temporară pentru a aborda problema.
Deși compania nu a furnizat detalii specifice despre modificările politicii, Holz a subliniat că obiectivul este să fie mai dificil pentru oameni să abuzeze de instrumentul AI. Midjourney nu a răspuns la solicitările de a oferi mai multe comentarii referitoare la aceasta problemă.
Raportele indică faptul că noua politică este deja implementată, deoarece teste realizate de jurnaliști de la The Associated Press au dus la mesaje de avertizare în încercarea de a genera imagini cu „Trump și Biden dându-și mâna pe plajă”. Avertismentele s-au transformat într-o „alertă de abuz” la a doua încercare.
Această mișcare făcută de Midjourney se aliniază cu eforturile de a aborda îngrijorările legate de instrumentele AI generative și de potențialul pentru dezinformare electorală. În cadrul unei recente interviuri, Callum Hood, șeful cercetării la Centrul pentru Combaterea Urâtului Digital, a declarat că Midjourney a fost remarcat pentru având cele mai puține controale printre principalele instrumente de generare de imagini atunci când vine vorba de generarea de imagini convingătoare cu figuri politice precum Biden și Trump. Raportul grupului a relevat, de asemenea, că Midjourney a obținut cele mai slabe rezultate între instrumentele testate, eșuând în 65% din cazuri și contribuind la dezinformare electorală.
Este demn de menționat faptul că decizia Midjourney de a bloca crearea de imagini false cu Biden și Trump ajută la soluționarea unei vulnerabilități semnificative în comparație cu alte generatoare populare de imagini. Cu toate acestea, rămâne de văzut dacă aceste modificări ale politicilor vor avea un impact durabil asupra răspândirii deepfake-urilor politice.
Într-o declarație privind viitorul, Holz și-a exprimat anticiparea că peisajul imaginilor false se va dezvolta semnificativ în anii următori. A preconizat că până în 2028, toți candidații prezidențiali vor avea „deepfake chatbots” care par a fi reali și cu puncte de discuție simulate. În ciuda blocării temporare a creării de imagini false, Holz a avertizat că oamenii hotărâți să producă deepfake-uri vor găsi alternative și mai sofisticate și capabile decât sistemele existente.
Midjourney, înființată în 2020 și cu sediul lângă San Francisco, se descrie ca fiind un laborator de cercetare independent concentrat pe explorarea unor noi procese de gândire și extinderea puterilor imaginative ale omenirii. De la lansarea generatorului său public de imagini în 2022, compania a atras o atenție semnificativă în domeniul tehnologiilor AI generative.
Întrebări frecvente
- Ce este Midjourney?
- De ce a blocat Midjourney crearea de imagini false cu Biden și Trump?
- Cum se diferențiază Midjourney de alte generatoare de imagini?
- Ce rezervă viitorul pentru imaginile false?
Midjourney este un generator de imagini cu inteligență artificială dezvoltat de un laborator de cercetare independent. Permite utilizatorilor să genereze imagini realiste pe baza diferitelor prompt-uri.
Având în desfășurare alegerile prezidențiale din SUA, Midjourney a implementat o blocare temporară pentru a preveni utilizarea abuzivă a instrumentului său în scopuri politice și pentru a aborda potențiala răspândire a dezinformării electorale.
Una dintre diferențele majore este că Midjourney operează pe platforma de social media Discord, unde utilizatorii pot vizualiza și interacționa cu prompt-urile și imaginile celorlalți public.
CEO-ul Midjourney, David Holz, anticipează că peisajul imaginilor false va continua să evolueze, cu candidații prezidențiali utilizând potențial „deepfake chatbots” mai sofisticați în viitor.
Sursa: The Associated Press.
Surse:
The source of the article is from the blog radiohotmusic.it