Midjourney, популярният генератор на изображения с изкуствен интелект, е въвел нова политика за блокиране на своите потребители от създаването на фалшиви изображения на президентите Джо Байдън и бившия президент Доналд Тръмп. Тази решение идва във време, когато се приближават изборите за президент на САЩ.
В последно дигитално събитие за обмен на идеи, изпълнителният директор на Midjourney Дейвид Холц изрази необходимостта да се справи с въпроси, свързани с изборите, като временно ограничи създаването на подвеждащи изображения с помощта на AI инструмента. Въпреки че точните детайли на промените в политиката не бяха разкрити, Холц подчерта важността на предотвратяване на злоупотребата с инструмента.
Новата политика на Midjourney беше тествана от The Associated Press, който поиска изображение на „Тръмп и Байдън се ръкостискват на плажа“. Инструментът отговори с предупреждение „Забранен prompt“ последвано от „Сигнал за злоупотреба“ за последната опит.
Този ход издига Midjourney отделно от други водещи инструменти за генериране на изображения, тъй като компанията не се присъедини към доброволното споразумение на технологичната индустрия по-рано тази година, което имаше за цел да бори се с deepfakes, генерирани от AI. Холц поясни, че целта на Midjourney не е политическо изказване, но компанията все още осъзнава необходимостта да се справи с потенциалния злоупотреба.
Според доклад на Центъра за борба с дигиталната омраза, Midjourney имаше по-малко контроли в сравнение с други генератори на изображения при създаването на изображения на известни политически личности. Продукциите на кандидатите като Джо Байдън и Доналд Тръмп от Midjourney бяха убедителни, повдигайки загриженост за потенциалното разпространение на дезинформация.
Все пак, решението на Midjourney да блокира такива изображения може да помогне да се справи с това слабо място и да го приближи до други инструменти за генериране на изображения, тествани в доклада. Струва си да се отбележи, че докладът подчерта общите проблеми при създаването на изборна дезинформация от множество генератори на изображения.
Потребителите на Midjourney оперират в публични форуми в Discord, което позволява на потребителите да виждат писмени prompt-и (стимули) и изображения от други. Discord групата на компанията има огромен брой членове, достигайки над 19 милиона потребители и служи като платформа за дискусии за изкуствения интелект и неговите последици за човечеството.
Холц също спекулира за бъдещето на технологиите deepfake, предвиждайки, че до 2028 г., всички политически кандидати ще имат реалистични „deepfake chatbots“ с имитирани точки на говорене. Това поражда загриженост за възможността за по-развито фалшиво съдържание, което може да се използва за манипулиране на общественото мнение.
Създаден през 2020 година, Midjourney се позиционира като независимо изследователска лаборатория, изследваща нови средства на мислене и разширяваща въображението на хората. Въпреки ангажираността си да позволява широк спектър на създаване на изображения, компанията активно модерира съдържание, за да предотврати производството на обидно и вредно съдържание.
По време на насилието на вече актуалния американски президентски избори, действията, предприети от инструменти за създаване на изображения с изкуствен интелект като Midjourney, подчертават постоянното предизвикателство в борбата с дезинформацията и гарантирането на интегритета на политическия дискурс.
The source of the article is from the blog shakirabrasil.info