TikTok обязался повысить прозрачность, введя автоматическую маркировку видео, созданных с помощью инструментов искусственного интеллекта (ИИ). Теперь любой контент на платформе, созданный с использованием ИИ, включая материал, созданный с использованием сложных сервисов ИИ, например DALL·E 3 от OpenAI, будет иметь метку «создано при помощи ИИ», обеспечивая пользователям осведомленность о происхождении контента.
Этот шаг является стратегической частью принятия TikTok Креденций контента, разработанных Коалицией подлинности и происхождения контента (C2PA) — совместной технологической инициативой, в которой участвуют такие активные участники, как Microsoft и Adobe. Благодаря новой технологии, к каждому видео будет добавлен метаданные, позволяющие платформе идентифицировать и автоматически помечать видео, созданные при помощи ИИ.
Как работает новая маркировка, будет распространяться не только на внутренние эффекты ИИ TikTok. Видео, созданные с использованием внешних сервисов, поддерживающих систему аккредитации контента C2PA, таких как Microsoft Bing Image Creator и упомянутый выше DALL·E 3, также будут маркироваться соответственно.
Эта инициатива возникает в условиях высказывания поддержки крупных игроков технологической индустрии, включая Google, стандартизации таких удостоверений. В течение следующих нескольких месяцев TikTok планирует дополнительно интегрировать Креденции контента в свою платформу для контента, созданного непосредственно через свои собственные эффекты ИИ.
Подробные метаданные, связанные с контентом, созданным при помощи ИИ, предоставят информацию о том, как и где был создан или отредактирован контент, направленные на поддержание привязанности к контенту, даже если пользователи загружают его, обеспечивая постоянную прозрачность на площадке обмена медиапо содержанию платформы.
Основные вопросы и ответы:
1. Что побудило TikTok принять решение добавить метки для контента, созданного с ИИ?
Решение TikTok добавить метки для контента, созданного с использованием ИИ, вероятно, является реакцией на более широкую дискуссию и озабоченность deepfakes, дезинформацией и прозрачностью происхождения контента. Помечая контент, созданный при помощи ИИ, TikTok стремится обеспечить пользователям немедленное различение характера контента, с которым они взаимодействуют.
2. Как TikTok определяет контент, который следует помечать как созданный с использованием ИИ?
Контент будет помечаться как созданный с использованием ИИ на основе метаданных, которые определяют, использовались ли для его создания инструменты и сервисы ИИ, включая внутренние эффекты ИИ TikTok или внешние сервисы, входящие в структуру C2PA, такие как DALL·E 3.
3. Какие следствия для создателей контента и пользователей?
Для создателей контента система меток добавляет слой ответственности и прозрачности в творческий процесс. Пользователи выигрывают, получая лучшую информацию о происхождении контента, который они потребляют, что может повлиять на их доверие и восприятие этого контента.
Основные проблемы и споры:
— Стандартизация: Обеспечение широкого принятия стандартов C2PA среди различных платформ является сложной задачей, требующей отраслевого взаимодействия.
— Эффективность и точность: Возможность системы неправильно маркировать или не маркировать контент вызывает опасения о надежности меток.
— Приватность: Внедрение таких систем включает управление чувствительными метаданными, что может вызвать проблемы с конфиденциальностью или иметь непредвиденные последствия в случае неправильного использования или взлома.
— Восприятие пользователей: Как пользователи воспринимают и, возможно, стигматизируют контент, созданный при помощи ИИ из-за меток, может повлиять на готовность создателей контента использовать ИИ-инструменты.
Преимущества:
— Прозрачность и доверие: Четкая маркировка может способствовать более прозрачной среде, укрепляя доверие пользователей, которые хотят знать происхождение контента.
— Борьба с дезинформацией: Метки могут помочь смягчить распространение дезинформации, предупреждая пользователей о синтетическом характере контента.
Недостатки:
— Переоценка меток: Пользователи могут стать слишком зависимыми от меток, возможно, игнорируя немаркированный контент, который также может быть вводящим в заблуждение или неточным.
— Ошибки при маркировке: Ложноположительные или ложноотрицательные метки могут вызвать путаницу и подорвать доверие к системе.
Для дополнительной информации о более широких усилиях в области подлинности контента вы можете посетить основные страницы участвующих компаний и инициатив:
— TikTok
— Microsoft
— Adobe
— OpenAI
[встроить]https://www.youtube.com/embed/LVdOPrvfYdI[/встроить]