Водяные знаки — это инструмент, который может помочь противостоять распространению искаженной информации, созданной искусственным интеллектом в интернете. Тем не менее, эксперты и обзор, проведенный компанией NBC News, обнаружили, что используемые на данный момент методы водяных знаков далеки от идеальных. Хотя компании, такие как Meta и Adobe, уже приняли стандарты водяных знаков, результаты оказались неудовлетворительными.
Одной из основных проблем с водяными знаками является их уязвимость к обходу защиты. Современные технологии водяных знаков обычно используют два компонента: невидимый тег в метаданных изображения и видимую метку, наложенную на изображение. К сожалению, как невидимые водяные знаки, так и видимые метки легко удаляются с помощью простых методов, таких как снимок экрана и обрезка.
Другая проблема заключается в том, что крупные социальные медиа и технологические компании не настаивают на использовании меток на контенте, созданном искусственным интеллектом или отредактированном искусственным интеллектом. Это отсутствие строгих норм вызывает ограничения влияния усилий по водяным знакам. Когда генеральный директор Meta Марк Цукерберг обновил обложку своего Фейсбука фотографией, созданной искусственным интеллектом, метка, указывающая на его происхождение от ИИ, не была видна пользователям, пока они не кликнули на фото. Это показывает недостатки текущей технологии водяных знаков.
Meta, с целью решения этой проблемы, заявила в феврале о своем плане идентифицировать контент, созданный искусственным интеллектом, с использованием технологии водяных знаков и помечать такой контент на Фейсбуке, Инстаграме и Threads. Однако даже Meta признает, что водяные знаки не являются идеальными и могут быть легко подделаны. Компания планирует внедрить более строгие стандарты в будущем, требуя от пользователей раскрывать информацию о создании контента и налагая штрафы за невыполнение норм.
Видимость меток водяных знаков также представляет определенные проблемы. Удаление видимых водяных знаков занимает всего несколько секунд, подрывая безопасность, которую они должны обеспечивать. Это вызывает сомнения в достоверности водяных знаков при верификации настоящего контента и точной идентификации медиа, созданного искусственным интеллектом.
Более того, несмотря на усилия крупных игроков в технологической сфере, таких как Meta, Google, Microsoft и Adobe, по внедрению совместных стандартов водяных знаков, существует тысячи моделей искусственного интеллекта, доступных для загрузки, которые не соответствуют этим стандартам. Это создает значительную лазейку в борьбе с AI-манипуляциями.
Ограничения водяных знаков становятся особенно явными, если учесть распространение дипфейков (deepfakes). Дипфейки — это медиафайлы, созданные искусственным интеллектом, часто используемые для нападок на людей с помощью манипулированных изображений и видео без их согласия. Водяные знаки не могут самостоятельно решить сложности и этические вызовы, которые ставят дипфейки.
Поскольку дипфейки продолжают использоваться в мошенничестве, политической дезинформации и нарушениях конфиденциальности, становится ясной необходимость в комплексных решениях. Водяные знаки, хоть и шаг в правильном направлении, не могут играть решающую роль в борьбе с проблемой дипфейков.
В заключение, водяные знаки проявили потенциал как инструмент в борьбе с AI-дезинформацией, но оказались недостаточно эффективными на практике. Их уязвимости, легкость удаления и отсутствие универсального применения препятствуют их эффективности. Для того чтобы решить вызовы, связанные с созданием медиафайлов искусственным интеллектом, требуется многогранный подход, включающий в себя передовые технологии, строгие регулирования и общественное просвещение.
Часто задаваемые вопросы
- Что такое водяные знаки в контексте AI-дезинформации?
Водяные знаки — это процесс встраивания невидимых тегов или видимых меток в медиафайлы, созданные искусственным интеллектом, чтобы указывать на их происхождение или подлинность. Цель состоит в информировании публики о наличии медиафайлов, созданных с использованием искусственного интеллекта, и предотвращении их неправомерного использования. - Насколько эффективны водяные знаки в борьбе с AI-дезинформацией?
Существующие методы водяных знаков имеют ограничения и уязвимости. Их легко обойти с помощью таких методов, как снимок экрана и обрезка медиафайлов. Крупные технологические компании также не строго требуют использования меток на контенте, созданном искусственным интеллектом, что снижает эффективность усилий в области водяных знаков. - Можно ли удалить метки водяных знаков?
Да, видимые метки водяных знаков могут быть легко удалены, часто всего за несколько секунд. Это вызывает сомнения в достоверности и эффективности водяных знаков при верификации настоящего контента и идентификации медиафайлов, созданных искусственным интеллектом. - Являются ли водяные знаки единственным решением проблем, связанных с дипфейками?
Водяные знаки самостоятельно не могут адекватно решить сложности и вызовы, которые ставят дипфейки. Для борьбы с их неправомерным использованием требуется комплексный подход, включающий в себя передовые технологии, строгие регулирования и широкое общественное просвещение.
The source of the article is from the blog smartphonemagazine.nl