Мета-платформы, материнская компания Facebook и Instagram, объявили о планах обнаружения и пометки изображений, созданных искусственным интеллектом (ИИ) другими компаниями. Компания планирует использовать невидимые маркеры, встроенные в файлы изображений, для различения реальных фотографий и цифрового контента. Эта система пометок будет применяться к любому контенту, содержащему маркеры, и размещаемому на платформах Меты.
Введение этой системы пометок является попыткой решить широко распространенную проблему вводящего в заблуждение и поддельного контента, созданного с помощью генеративных технологий ИИ. Эти технологии имеют способность создавать реалистично выглядящие изображения в ответ на простые подсказки, что вызывает опасения о потенциальном вреде, связанном с их неправильным использованием. Инициатива пометок со стороны Меты входит в общее движение в технологической индустрии по установлению стандартов и смягчению негативных последствий генеративного ИИ.
Президент международных дел Меты, Ник Клегг, выразил уверенность в надежности компании в метке ИИ-генерируемых изображений. Однако он признал сложность разработки подобных инструментов для аудио- и видеоконтента. Пока технология маркировки аудио и видео не достаточно зрела, Мета планирует требовать от людей помечать свой измененный аудио- и видеоконтент, со штрафами за несоблюдение.
Стоит отметить, что инициатива пометок Меты в настоящее время не распространяется на письменный текст, созданный ИИ-инструментами, такими как ChatGPT. Клегг заявил, что на данный момент не существует надежного механизма для пометки такого контента. Кроме того, остается неясным, будет ли Мета применять пометки к генеративному ИИ-контенту, размещенному в ее зашифрованном мессенджере WhatsApp.
Недавняя проверка политики Меты по обманчивым подделанным видео со стороны независимого наблюдательного совета привела к признанию Клеггом необходимости улучшения мер. Наблюдательный совет рекомендовал помечать, а не удалять такой контент. Клегг согласился с оценкой совета, заявив, что существующая политика Меты больше не подходит, учитывая все большее присутствие синтетического и гибридного контента. Установив партнерство по пометкам с другими технологическими компаниями, Мета стремится продемонстрировать свою приверженность решению этих проблем.
В заключение, решение Мета-платформ помечать ИИ-генерируемые изображения является важным шагом в борьбе с дезинформацией и повышении прозрачности на своих платформах. Поскольку технологическая индустрия продолжает справляться с вызовами, которые создают генеративные технологии ИИ, совместные усилия, такие как эта инициатива пометок, становятся ключевыми в формировании ответственного использования ИИ.
The source of the article is from the blog revistatenerife.com