Мета, материнская компания Facebook, Instagram и Threads, предпринимает шаги по обнаружению и маркировке AI-сгенерированных изображений на своих платформах. Это действие является частью усилий Мета по борьбе с обманом и раскрытию тех, кто намеренно вводит в заблуждение других людей. В настоящее время AI-сгенерированные фотореалистичные изображения Мета уже помечены таким образом. Однако в недавнем блоге Ника Клегга, президента глобальных дел Мета, было объявлено планирующееся расширение маркировки на AI-сгенерированные изображения, созданные с использованием конкурирующих сервисов.
В то время как AI-изображения Мета уже содержат метаданные и невидимые водяные знаки, указывающие на их источник AI, компания разрабатывает инструменты для обнаружения таких маркеров, когда они используются другими организациями, такими как Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock. Идентифицируя и помечая AI-генерированный контент, Мета стремится справиться с размытой границей между человеком и синтетическим содержимым, предоставляя пользователям прозрачность относительно технологии, лежащей в основе встречающих их изображений.
В ближайшие месяцы Мета планирует применить эти метки на всех языках. Компания признает важность этой работы, особенно во время значимых глобальных выборов, которые пройдут в следующем году. Однако стоит отметить, что на данный момент маркировка ограничена изображениями, и AI-генерированный аудио- и видеоконтент не включают эти маркеры.
В дополнение к маркировке, Мета намерена размещать более заметные метки на цифрово измененных или переделанных изображениях, видео или аудио, которые представляют высокий риск существенного обмана общественности. Кроме того, компания исследует разработку технологий, способных автоматически обнаруживать AI-генерированный контент, даже если эти невидимые маркеры были удалены или отсутствуют.
Клегг признал вызывающую природу этой области и необходимость постоянного инновационного развития, чтобы опережать тех, кто стремится обманывать с помощью AI-генерированного контента. Уже сейчас наблюдаются случаи использования AI-глубинных фейков во время президентской предвыборной кампании в США, а также происходят инциденты, подобные контроверзному изменению изображения в Австралии. Поэтому усилия Мета по обнаружению и маркировке AI-генерированного контента играют важную роль в противодействии обманчивым практикам.
Путем создания прозрачной среды и предоставления пользователям информации о характере контента, с которым они сталкиваются, Мета стремится создать безопасную цифровую среду, где люди могут навигироваться и ответственно взаимодействовать с медиа.
The source of the article is from the blog regiozottegem.be