TikTok улучшает меры по разметке контента, созданного искусственным интеллектом
Для укрепления целостности цифрового контента TikTok планирует помечать изображения и видео, созданные с использованием искусственного интеллекта, с помощью цифровых водяных знаков, что обеспечивает прозрачность. Эта инициатива приходит в ответ на опасения экспертов относительно потенциального использования контента, созданного при помощи ИИ, для нарушения выборов в США.
Признавая эти опасения, TikTok собирается расширить маркировку материалов, созданных при помощи ИИ, за пределы того, что создано средствами самого приложения, включая контент, сгенерированный внешне. Адам Прессер, ответственный за операции и безопасность доверия в TikTok, заявил о принятии компанией обязательств удалить любой реалистичный контент, созданный с использованием ИИ и найденный на платформе без должной маркировки, так как это нарушает политику сообщества.
Технология водяных знаков, названная Content Credentials, возникла от Коалиции за Происхождение и Аутентичность Контента, которую поддерживают крупные игроки отрасли, такие как Adobe и Microsoft. OpenAI, создатель системы искусственного интеллекта ChatGPT, использует этот стандарт, как и другие крупные технологические гиганты — YouTube и материнская компания Instagram и Facebook Meta Platforms, которые также выразили намерения использовать Content Credentials.
Для вступления системы в силу создатели инструментов ИИ и платформы для обмена контентом должны согласиться использовать отраслевой стандарт. Например, инструмент создания изображений Dall-E OpenAI добавляет цифровые водяные знаки и метаданные к созданным им изображениям. Когда такие изображения загружаются в TikTok, платформа автоматически помечает их как созданные с использованием ИИ.
TikTok, принадлежащий китайской компании ByteDance и столкнувшийся с возможной диверсификацией из-за нового законодательства США, спорит по этому вопросу в суде, ссылаясь на права по первой поправке.
Важные вопросы и ответы:
Как TikTok планирует использовать цифровые водяные знаки?
TikTok планирует помечать изображения и видео, созданные при помощи ИИ, с использованием цифровых водяных знаков. Это касается контента, созданного как внутренними инструментами TikTok, так и контента, созданного в другом месте, но опубликованного на TikTok.
Что такое Content Credentials?
Content Credentials — это часть технологии водяных знаков, возникшая от Коалиции за Происхождение и Аутентичность Контента. Они используются для подтверждения происхождения и целостности цифрового контента.
Что такое Коалиция за Происхождение и Аутентичность Контента?
Коалиция за Происхождение и Аутентичность Контента — это инициатива, поддерживаемая крупными игроками отрасли, такими как Adobe и Microsoft, направленная на установление стандартов для происхождения контента с целью борьбы с дезинформацией.
Почему шаг TikTok важен?
Инициатива TikTok важна, так как это отражает шаг к большей прозрачности в цифровой сфере на фоне растущих опасений относительно потенциала использования контента, созданного при помощи ИИ, в кампаниях дезинформации, особенно в чувствительных контекстах, таких как выборы в США.
Основные проблемы или споры:
Одной из ключевых проблем является достижение широкого принятия отраслевым стандартом Content Credentials, особенно среди различных создателей инструментов ИИ и платформ обмена контентом. Более того, применение правильной маркировки контента, созданного при помощи ИИ, может быть технически сложным. Кроме того, существуют споры относительно принадлежности TikTok китайской компании ByteDance и обсуждения в США о потенциальных угрозах безопасности, приводящие к дебатам о возможной диверсификации.
Преимущества и недостатки:
Преимущества:
— Увеличение прозрачности для потребителей, которые могут лучше идентифицировать контент, созданный при помощи ИИ.
— Помогает предотвратить распространение дезинформации, особенно в критические периоды, такие как избирательные кампании.
— Поощряет ответственность и этические практики среди создателей контента и платформ.
Недостатки:
— Это может ненамеренно выделить контент, созданный при помощи ИИ, и сделать его объектом для тех, кто стремится подорвать доверие к цифровому контенту.
— Технология может быть не безупречной, что приводит к возможности как ложных срабатываний, так и пропусков.
— Может возникнуть сопротивление со стороны создателей, которые могут видеть это как нарушение свободы творчества.
Предлагаемые связанные ссылки:
Если вы хотите узнать больше о TikTok, вы можете посетить их официальный сайт по адресу TikTok. Для получения дополнительной информации о технологии за Content Credentials и отраслевом сотрудничестве по происхождению контента полезными могут быть официальные страницы поддерживающих коалицию компаний, таких как Adobe или Microsoft. Чтобы понять более широкий контекст генерации контента при помощи ИИ и его последствий, официальный сайт OpenAI может предложить некоторые идеи.
https://youtube.com/watch?v=uW13BzNcy-k+
The source of the article is from the blog scimag.news