Продвижение генеративного искусственного интеллекта привело к взрывному росту манипуляции видео с участием призрачных похожих лиц знаменитостей, что привело к сообщенному почти учетверению таких случаев только в прошлом году. Комитет по обзору радиовещания и коммуникаций (BCRC) принял решительные меры против распространения этих «сексуально подделанных видео», требуя исправить 4 691 случай.
Отмечая серьезность ситуации, BCRC отметил значительное увеличение манипулированного контента, особенно тех, где к лицам K-Pop айдолов и актеров прилагаются изображения взрослого контента, распространяемые главным образом через зарубежные сайты для взрослых. Интенсивное наблюдение, начатое с января по апрель, привело комиссию к требованию исправлений в этих случаях, которые представляют собой увеличение на 3745 случаев по сравнению с таким же периодом предыдущего года.
Комитет выразил серьезные опасения, отметив, что жертвами становятся не только знаменитости, но также несовершеннолетние и общественность. Злоупотребления технологией в деле распространения deepfake видео кажутся нарастающими с тревожной скоростью. В связи с этим они подчеркнули важность крайней осторожности при обмене личной информацией в социальных сетях и других онлайн-платформах и настоятельно рекомендовали немедленно сообщать в BCRC, если сталкиваются с такими ‘сексуально подделанными видео’.
Впереди Комитет BCRC обязался к концентрированной стратегии интенсивного наблюдения и быстрого судебного разрешения для блокировки сексуально ложных материалов и веб-сайтов, распространяющих их, тем самым смягчая потенциальный вред, причиненный этими нарушениями.
Основные проблемы:
Одной из ключевых проблем, связанных с ростом deepfake видео, является трудность обнаружения и верификации. По мере усовершенствования технологии AI становится все сложнее различать реальные и синтетические медиа. Более того, поскольку deepfakes могут быть крайне убедительными, их можно использовать для порчи репутации, манипулирования общественным мнением и распространения дезинформации.
Проблема юрисдикции также представляет собой серьезное препятствие. Многие платформы, на которых размещается контент deepfake, могут находиться в странах с другими законами или менее строгими правилами в области цифрового контента. Это затрудняет международное сотрудничество и соблюдение регуляций.
Контроверсии:
Этические аспекты лежат в основе дебатов по поводу deepfake. В то время как некоторые могут аргументировать за творческую свободу и потенциальные положительные применения генеративного AI, другие высказывают опасения относительно согласия, особенно когда используются изображения лиц людей без их разрешения для создания deepfake контента. Использование технологии deepfake в порнографических материалах, особенно без согласия, вызывает значительные этические и правовые вопросы.
Кроме того, существуют дебаты относительно цензуры и свободы слова. Попытки регулировать deepfakes могут рассматриваться как нарушение художественных и журналистских свобод, если они не будут внимательно сбалансированы.
Преимущества:
Несмотря на возможное злоупотребление, deepfakes также предлагают различные инновационные приложения. Например, их можно использовать в киноиндустрии для омоложения актеров или воссоздания выступлений ушедших актеров. В учебных заведениях deepfakes могут позволить историческим фигурам ‘ожить’, обеспечивая таким образом иммерсивные опыты.
Недостатки:
Недостатки deepfakes сосредоточены на их возможности к злоупотреблению. Сюда входят личная и политическая манипуляция, распространение ложной информации и кибертравля. Угроза приватности и легкость нацеливания на отдельных лиц также представляют существенные недостатки.