ТикТок устанавливает новый стандарт в борьбе с цифровой дезинформацией, внедряя функцию «Учетные данные контента». В ходе этого шага, одобренного технологической индустрией, социальная платформа будет отображать цифровую водяную печать, указывающую происхождение и историю редактирования изображений. Эта инициатива направлена на помощь пользователям в различении контента, созданного при помощи искусственного интеллекта, и человечески созданного контента.
Adobe, компания-пионер в использовании такой технологии, является лидером в этой сфере, и другие гиганты технологической отрасли, такие как OpenAI, создатели ChatGPT, уже приняли подобные практики. Последнее обновление от ТикТок нацеливается на контент, созданный при помощи искусственного интеллекта, запуская систему активной маркировки для использования в своем приложении. Предстоящее обновление также будет распространяться на контент, созданный внешними нерегулируемыми организациями.
Внедрение этих инструментов верификации приходит в условиях растущей озабоченности по поводу влияния искусственно-созданного контента на важные события, включая выборы, как, например, предстоящие президентские выборы в Соединенных Штатах. Технологические компании-коллеги, такие как Google и Meta, также объявили планы реализации функций верификации контента.
Для бесперебойной работы системы требуется сотрудничество между платформами, такими как ТикТок, и инструментами создания контента на основе искусственного интеллекта для согласования с отраслевыми стандартами. Например, когда изображение создается с помощью Dall-E от OpenAI, OpenAI прикрепляет метку верификации. После загрузки изображения на ТикТок, оно автоматически распознается как искусственно-созданное.
ABC News цитирует Адама Прессера, главу операций, доверия и безопасности в ТикТоке, выражающего восторг по поводу потенциала искусственного интеллекта и подчеркивающего важность прозрачности в различении фактов от вымысла. Как описано на веб-сайте ТикТок в сентябре 2023 года, компания призывает пользователей помечать продукты на основе искусственного интеллекта и провела испытания функции самоверификации.
Новая система верификации ТикТока для борьбы с искусственно-созданной дезинформацией
Объявление ТикТока о новой функции добавления водяных знаков на изображения с указанием их происхождения и истории редактирования является значительным прорывом в борьбе с дезинформацией. С развитием технологии дипфейков и других форм искусственно-созданного контента, возможность удостоверить источник информации становится все более важной. Функция «Учетные данные контента» направлена на то, чтобы пользователи могли легко различать контент, созданный людьми, и тот, что создан искусственным интеллектом.
Ключевые игроки индустрии, такие как Adobe и OpenAI, выступают сторонниками подобных методов верификации, что подчеркивает тенденцию к увеличению ответственности и прозрачности в создании контента. Это движение не ограничивается только ТикТоком; другие технологические компании, включая Google и Meta, принимают меры для обеспечения целостности контента.
Ключевые вопросы и ответы:
— Почему ТикТок вводит функцию верификации контента на основе искусственного интеллекта?
ТикТок вводит эту функцию для борьбы с распространением дезинформации и предоставления прозрачности своим пользователям, позволяя им отличить, был ли контент подвергнут манипуляциям или создан при помощи искусственного интеллекта.
— Как работает система верификации ТикТока?
Система использует цифровую водяную печать для указания происхождения и истории редактирования изображений. Когда инструменты искусственного интеллекта, такие как Dall-E от OpenAI, создают изображение, они прикрепляют метку верификации, которую ТикТок распознает после загрузки изображения на платформу.
— Какие есть проблемы, связанные с реализацией такой системы?
Некоторые проблемы включают в себя обеспечение должного маркирования всего контента, созданного искусственным интеллектом, адаптацию к постоянно изменяющейся природе искусственного интеллекта и технологии дипфейков, а также обеспечение конфиденциальности пользователей и безопасности данных.
Преимущества:
— Повышает доверие к онлайн-контенту.
— Помогает быстро определять созданный искусственным интеллектом контент.
— Содействует созданию культуры прозрачности в создании контента.
— Помогает в борьбе с цифровой дезинформацией.
Недостатки:
— Может создать ложное чувство безопасности, если технология не безупречна.
— Может иметь последствия для конфиденциальности в зависимости от данных, собранных для водяных знаков.
— Может потребовать значительных ресурсов для внедрения и поддержания.
Контроверзии или Проблемы:
Одним из основных спорных моментов, связанных с подходом ТикТока, является баланс между прозрачностью и конфиденциальностью. Некоторые пользователи могут испытывать опасения по поводу сбора и отображения информации о происхождении контента. Кроме того, адаптация системы к быстро развивающимся техникам манипуляции представляет собой значительное техническое вызов.
Связанные Ссылки:
Для тех, кто интересуется темой дезинформации и верификации контента, можно посетить веб-сайты ключевых участников отрасли:
— ТикТок
— Adobe
— OpenAI
— ABC News
Обратите внимание, что приведенные ссылки ведут на основные домены организаций и не перенаправляют на какие-либо конкретные подстраницы.