Midjourney реалізує тимчасове блокування штучно-створених зображень Трампа та Байдена
Midjourney, популярний генератор зображень на основі штучної інтелекту, ініціював тимчасові заходи щодо блокування своїх користувачів від створення фейкових зображень Президента Джо Байдена та колишнього Президента Дональда Трампа перед президентськими виборами у США. Рішення прийнято після тестів, проведених Асоційованим пресом, які показали потенційність зловживання цим інструментом. Голова Midjourney Девід Гольц пояснив, що компанія бажає взяти позицію проти розповсюдження недостовірної інформації, але він не надав конкретних деталей змін, які впроваджуються у політиці.
Дії Midjourney, яка складає всього 11 осіб, відрізняються від дій інших провідних інструментів для генерування зображень. Компанія не брала участь у добровільному пакті промисловості, спрямованому на боротьбу з глибокими вигаданими зображеннями, які створені для обману виборців. Гольц пояснив, що головна мета Midjourney не пов’язана з політичним мовленням, але компанія також бажає уникнути витрат часу на контроль такого контенту.
Критики висловили обурення можливістю технології Midjourney підживлювати кампанії дезінформації та неправдиві претензії щодо шахрайства на виборах. Центр боротьби з кіберненависті недавно опублікував звіт, вказавши, що Midjourney вже використовується для створення зображень, які можуть підтримувати таку дезінформацію. Каллум Гуд, керівник досліджень в цій організації, підкреслив, що Midjourney виділяється серед генераторів зображень з штучною інтелектом в найменшому контролі під час створення зображень відомих політичних діячів, таких як Байден та Трамп. Група контролю випробувала також інші інструменти, включаючи ChatGPT Plus від OpenAI, DreamStudio від Stability AI та Image Creator від Microsoft, всі вони показали певний рівень проблем у генерації виборчої дезінформації.
Незважаючи на рішення Midjourney заблокувати створення зображень Трампа та Байдена, є випадки, коли користувачі успішно створювали подібний контент у минулому. Однак публічна база даних компанії вказує на те, що це змінилося в останні часи, з користувачами, які повідомляють про попередження при спробі генерації зображень двох політичних діячів. Деякі користувачі висловлюють роздратування через відсутність зрозумілої комунікації від Midjourney стосовно її переглянутої політики.
Одна з особливостей, яка відокремлює Midjourney від інших генераторів зображень, – це його громадський характер. Користувачі можуть переглядати у вас інші підказки та зображення на соціальній мережі Discord, де знаходиться найбільша група Midjourney, яка налічує понад 19 мільйонів учасників. Гендиректор Девід Гольц регулярно взаємодіє з користувачами в цій групі, поглиблюючи обговорення на широкий спектр тем, пов’язаних з штучною інтелектом та майбутнім людства.
Незважаючи на тимчасове блокування Midjourney, яке може вирішити питання стосовно штучно-створених зображень перед майбутніми виборами, Гольц прогнозує, що ландшафт значно зміниться в майбутньому. Він вважає, що до 2028 року всі кандидати матимуть реалістичні “штучні чат-боти”, які симулюватимуть ключові моменти. Гольц попереджає, що особи, які вирішили створити глибокі підробки, знайдуть альтернативні методи, які можна налаштувати для конкретних цілей та виявляться ефективнішими, ніж існуючі системи.
Заснований у 2020 і розташований біля Сан-Франциско, Midjourney позиціонує себе як незалежна дослідницька лабораторія, що фокусується на дослідженні нових форм мислення та розширенні уявних можливостей людей. У липні 2022 року компанія представила публічну версію свого генератора зображень, що викликало значний інтерес у галузі технологій генеративного штучного інтелекту. Незважаючи на прагнення дозволити користувачам вільно створювати широкий спектр зображень, Midjourney активно блокує образливий та шкідливий контент. Компанія використовує фільтри ключових слів та утримує команду модераторів, які реагують на скарги від користувачів.
The source of the article is from the blog exofeed.nl