Meta вводит метку «Сделано с использованием ИИ» для идентификации синтетических медиа
Meta активно борется с дезинформацией на своих платформах, Facebook и Instagram, представив в этом месяце метку «Сделано с использованием ИИ» на видео, изображениях и аудиозаписях. Такой подход может привести к обратному эффекту, если пользователи начнут предполагать, что любое не помеченное контент является подлинным.
Роль WhatsApp в распространении дезинформации
Компания также обращает внимание на WhatsApp, платформу, где ранее процветала текстовая дезинформация. Например, в Бразилии в 2018 году распространялась ложная информация, направленная против Фернанду Хадда из Рабочей партии. Сторонники Жаира Болсонару, который позднее стал президентом, были замечены в финансировании этих массовых операций.
Гармонизация политики контента на различных платформах
Meta может лучше бороться с повторением подобных инцидентов, которые могут быть подогреты средствами ИИ, путем согласования политики контента WhatsApp с политикой Instagram и Facebook. В частности, это включило бы запрет контента, вмешивающегося в процесс голосования. Нынешние правила WhatsApp неоднозначно запрещают «намеренно вводящий в заблуждение контент» и «незаконную деятельность», что оставляет место для толкования.
Усиление проактивного вмешательства
Более четкая политика контента даст Meta больше полномочий бороться с фейковыми сообщениями с помощью средств ИИ на WhatsApp, что, согласно Лоусону, важно для проактивного вмешательства. Без того, что компания признает необходимость в этом, у нее не было бы конкретных политик против вмешательства в процесс голосования на Facebook и Instagram.
Проблема дезинформации, созданной ИИ
С развитием средств ИИ становится все сложнее найти бесспорные доказательства их воздействия. Поскольку интернет заполнен контентом, нам нужно быть готовыми к большему шуму, чем сигналу. В результате технологические компании и должностные лица не должны довольствоваться отсутствием очевидного «коллективного воздействия» ИИ на выборы, а должны проявлять широкий бдительность.
Ключевые вопросы и ответы:
— Почему Meta вводит метку «Сделано с использованием ИИ»?
Meta вводит эту метку в рамках своих усилий по борьбе с дезинформацией, четко помечая синтетические медиа, такие как дипфейки или другой контент, измененный с помощью ИИ, чтобы уведомить пользователей о характере потребляемых ими медиа.
— Как распространяется дезинформация через WhatsApp?
WhatsApp может стать «почвой» для дезинформации, поскольку позволяет легко пересылать сообщения большим группам пользователей. Это создает среду, где ложная информация может быстро стать вирусной, не проверенной на достоверность.
— Каково значение гармонизации политики контента на различных платформах?
Путем гармонизации политики контента на платформах под его контролем Meta стремится представить единый подход к дезинформации, вмешательству в выборы и незаконной деятельности. Это помогает установить четкие ожидания для пользователей и обеспечивает более эффективное применение правил.
— Какие вызовы представляет дезинформация, созданная ИИ?
Проблема с дезинформацией, созданной ИИ, заключается в том, что она может быть очень реалистичной и трудно обнаружимой, что делает ее мощным инструментом для распространения ложной информации. По мере развития технологий ИИ обнаружение и модерация такого контента становятся все более сложными.
Ключевые вызовы или споры:
Одним из главных вызовов является поддержание баланса между свободой выражения и предотвращением распространения дезинформации. Существует также риск того, что пользователи могут начать не доверять всему контенту, не имеющему метки «Сделано с использованием ИИ», что может повлиять на подлинных создателей контента. Кроме того, дезинформация может принимать различные формы, и обнаружение при помощи ИИ не является безошибочным, требуя постоянных обновлений и улучшений.
Преимущества и недостатки:
Преимущества:
— Обеспечивает прозрачность, четко указывая, какой контент создан с помощью ИИ.
— Побуждает пользователей быть более критичными к потребляемым медиа.
— Гармонизация политик предлагает единый подход к дезинформации на различных платформах Meta.
Недостатки:
— Пользователи могут неправильно предполагать, что не помеченный контент подлинный, что создает ложное доверие.
— Метка может стигматизировать контент, созданный с помощью ИИ, затрагивая создателей, использующих ИИ в легитимных целях.
— Применение такой политики может вызвать вопросы конфиденциальности, особенно на зашифрованных мессенджерах, таких как WhatsApp.
Связанные ссылки:
Чтобы узнать больше о усилиях Meta и точках зрения на дезинформацию и политику контента, посетите Пресс-центр Meta и основной сайт WhatsApp. Обратите внимание, что вам всегда следует проверять действительность URL-адреса и использовать только надежные источники.