Midjourney, популярний генератор зображень на штучному інтелекті, недавно оголосив, що тимчасово заблокує користувачам створення фейкових зображень президента Джо Байдена та колишнього президента Дональда Трампа. Рішення було ухвалене на тлі триваючих президентських виборів у США та спрямоване на запобігання використанню інструменту у політичних цілях. Голова Midjourney Девід Гольц оголосив про це під час події в дистанційному форматі, зазначивши, що модерація такого контенту є складною, тож блок – тимчасова міра для вирішення проблеми.
Хоча компанія не надала конкретних деталей з приводу змін у політиці, Гольц підкреслив, що мета полягає в ускладненні можливостей злоупоротреби інструментом штучного інтелекту. Midjourney не відповів на запити щодо подальших коментарів з цього питання.
Звіти свідчать, що нову політику вже впроваджено, оскільки тести, які провели журналісти з Асоційованої преси, призвели до попереджувальних повідомлень при спробі створити зображення “Трампа та Байдена, які обіймаються на пляжі.” Попередження переросли у “сигнал про зловживання” під час другої спроби.
Цей крок з боку Midjourney співпадає зі спробами вирішити проблему стосовно засобів генеративного штучного інтелекту та його можливого використання для поширення дезінформації під час виборів. Під час нещодавнього інтерв’ю Каллум Гуд, керівник досліджень в Центрі боротьби з цифровою ненавистю, заявив, що виявлено, що Midjourney має менше контролів порівняно з лідируючими інструментами для створення переконливих зображень політичних діячів, таких як Байден і Трамп. Звіт групи також показав, що Midjourney працював найгірше серед протестованих інструментів, невдаючись у 65% випадків та сприяючи дезінформації під час виборів.
Варто відзначити, що рішення Midjourney заблокувати створення фейкових зображень Байдена та Трампа допомагає вирішити значну слабкість порівняно з іншими популярними генераторами зображень. Однак поки що невідомо, чи матимуть ці політичні зміни тривалий вплив на поширення політичних глибоких фейків.
Цікаво, що Midjourney працює по-іншому від інших генераторів зображень, оскільки його користувачі можуть переглядати та спілкуватися з промтаціями та зображеннями інших публічно на соціальній мережі Discord. Це публічне обговорення призвело до того, що група Midjourney на Discord стала найбільшою на платформі з понад 19 мільйонами учасників. Голова Девід Гольц часто використовує цю платформу для своїх щотижневих офісних годин, де він обговорює широкий спектр тем, пов’язаних з штучним інтелектом та майбутнім людства.
У своєму заявленні щодо майбутнього, Гольц висловив сподівання, що ландшафт фейкових зображень значно еволюціонує у наступні роки. Він передбачив, що до 2028 року всі президентські кандидати матимуть схожі на справжніх “чатботи глибокого фейку” з імітованими темами для обговорення. Незважаючи на тимчасовий блок на створення фейкових зображень, Гольц попередив, що люди, які вирішать створювати глибокі фейки, знайдуть альтернативи, які ще більш вдосконалені та здатніші, ніж існуючі системи.
Midjourney, заснований у 2020 році та базований біля Сан-Франциско, описує себе як незалежну дослідницьку лабораторію, яка фокусується на дослідах нових мислительних процесів та розширенні уявляння людства. Починаючи з випуску свого публічного генератора зображень у 2022 році, компанія зібрала значну увагу в області технології генеративного штучного інтелекту.
ЧаП
**Що таке Midjourney?**
Midjourney – це генератор зображень на штучному інтелекті, розроблений незалежною дослідницькою лабораторією. Він дозволяє користувачам створювати реалістичні зображення на основі різних промтів.
**Чому Midjourney заблокував створення фейкових зображень Байдена та Трампа?**
З президентськими виборами у США в ході, Midjourney впровадив тимчасовий блок, щоб запобігти зловживанню інструментом для політичних цілей та вирішити можливе поширення дезінформації.
**Чим відрізняється Midjourney від інших генераторів зображень?**
Однією з ключових відмінностей є те, що Midjourney діє на платформі соціальної мережі Discord, де користувачі можуть публічно переглядати та спілкуватися з промтаціями та зображеннями інших.
**Яке майбутнє чекає на фейкові зображення?**
Керівник Midjourney Девід Гольц очікує, що ландшафт фейкових зображень продовжить еволюціонувати, і можливо, у майбутньому президентські кандидати будуть використовувати більш вдосконалені “чатботи глибокого фейку”.
**Джерело**: The Associated Press.
**Визначення**:
– **Штучний інтелект (AI)**: Симулювання людського інтелекту в машинах, які програмуються для мислення та навчання, як людини, дозволяючи їм виконувати завдання, які зазвичай потребують людського інтелекту.
– **Генератор зображень**: Інструмент або програмне забезпечення, що генерує зображення на основі певних введених даних або промтів.
– **Зловживання**: Недопущене або несанкціоноване використання чогось, в даному випадку – використання генератора зображень для політичних цілей з метою поширення дезінформації.
– **Модерація**: Дія контролю та моніторингу контенту або поведінки для забезпечення відповідності певним стандартам або правилам.
– **Інструменти генеративного штучного інтелекту**: Інструменти штучного інтелекту, які можуть генерувати новий та оригінальний контент, такі як зображення, на основі певних введених даних або промтів.
– **Глибокі фейки**: Штучно змінені медіа, зазвичай у формі відео або зображень, які зображують осіб, які роблять чи говорять речі, які вони насправді ніколи не говорили чи не робили.
– **Discord**: Соціальна медіа платформа, яка дозволяє користувачам створювати спільноти та спілкуватися один з одним через текст, голос та відеочати.
**Пов’язані посилання**:
– [Midjourney](https://www.midjourney.com)
– [Глибокі фейки](https://www.adl.org/deepfakes)
– [Discord](https://www.discord.com)
The source of the article is from the blog anexartiti.gr