Apple вжила рішучих заходів щодо додатків, що створювали неконсенсуальні відкриті зображення, після розслідування 404 Media. Гігант технологій видалив з App Store три ідентифікованих додатки, які були замішані у зловживанні. Незважаючи на цей необхідний крок, інформація з розслідування вказала, що Apple мала деякі затримки у відповіді, поки їм не були надані прямі посилання на порушувальні додатки в App Store.
Ці додатки просувалися через відверті рекламні тактики на соціальних платформах, таких як Instagram. Реклама приваблювала користувачів фразами, які обіцяли можливість “роздягти будь-яку дівчину безкоштовно” та “видалити будь-який одяг”.
Соціальні мережі прийняли значне зростання поширення порнографії, використовуючи технологію діпфейк, що призвело до того, що нікого не підозрюючі підлітки та публічні персони стали жертвами. Серед постраждалих – високопоставлені особистості, такі як музикантка Тейлор Свіфт і політична діячка Олександра Окасіо-Кортез. Закон про боротьбу з неконсенсуальним використанням експліцитного контенту (DEFIANCE) був внесений депутаткою Окасіо-Кортез в Палаті Представників, щоб встановити федеральні громадські збитки для жертв діпфейків. Аналогічний законопроект був також запропонований в Сенаті, але досі не отримав продовження.
Проблему діпфейк порнографії спіткала не лише App Store. Діпфейки Тейлор Свіфт розповсюджувались на невказаних форумах, а Совет правління Meta поклав на компанію обов’язок урівноважити свою непослідовну політику з обробки зображень, створених штучним інтелектом, до експліцитних.
У Великій Британії Міністерство юстиції оголосило про плани заборонити створення сексуально експліцитних діпфейк, подібних тим, які могли бути створені виключеними додатками, додатковим закріпленням глобальної позиції проти цифрової експлуатації.
Важливі питання та відповіді:
– Чим вмотивована діяльність Apple проти цих типів додатків?
Apple прагне забезпечувати конфіденційність та етичне використання технологій. Компанія має зацікавленість у підтримці безпечного та поважного середовища в своєму App Store. Знищуючи додатки, що створюють неконсенсуальні відкриті зображення, Apple дотримується своїх політик та захищає користувачів від експлуатації та домагання.
– Як соціальні медіа можуть запобігти поширенню діпфейк порнографії?
Соціальні медіа можуть покращити свої стратегії модерації контенту, використовувати більш складні засоби виявлення діпфейків, оновлювати свої політики для явного вирішення питань діпфейків та співпрацювати з правоохоронними органами та іншими організаціями, що борються з цифровою експлуатацією.
– Який юридичний статус створення та поширення неконсенсуального діпфейк контенту?
Юридичний статус діпфейк контенту варіюється в залежності від країни. В деяких країнах приймаються чи вже прийняті закони для криміналізації створення та розповсюдження неконсенсуальної експліцитної діпфейк, в інших юридична база ще доганяє технології.
Ключові виклики та суперечності:
– Технологія випереджає законодавство: Одним з основних викликів є те, що швидкість розвитку технології часто випереджає законодавство. Це ускладнює ефективне регулювання та притягнення до відповідальності випадків, пов’язаних з технологією діпфейк та неконсенсуальним вмістом.
– Виявлення та виконання: Ефективне виявлення діпфейк-контенту та виконання політик проти нього відбувається з важкістю через складність технології та обсяг вмісту, що ділиться в Інтернеті.
Переваги та недоліки:
– Переваги: Видалення цих додатків захищає конфіденційність та гідність користувачів та може відлякати від створення і поширення такого експлуатаційного контенту. Це також може сприяти створенню безпечнішого онлайн-середовища та допомагає підтримувати етичні стандарти використання технологій.
– Недоліки: Можливі недоліки полягають у можливій перестановці та можливих впливах на законні додатки, що використовують схожі технології для етичних цілей, таких як CGI в кіно або для відвідування для дорослих, де учасники дали згоду.
Пов’язані посилання:
– Apple
– Instagram
– Meta (Facebook)
– UK Ministry of Justice