TikTok вводит четкую маркировку контента, созданного с помощью искусственного интеллекта
TikTok объявил о обновлении своей политики контента с целью повышения прозрачности путем разметки цифрово синтезированных медиа. Пользователи теперь смогут определить, просматривают ли они контент, созданный искусственным интеллектом, так как к фотографиям и видеороликам будет применяться новая метаданные, указывающая на их искусственное происхождение.
Предстоящее сканирование аудио контента
Эта платформа для обмена видео не останавливается на визуальном контенте; планируется расширить сканирование и на аудиофайлы, обеспечивая возможность пользователям идентифицировать любой элемент контента, который может быть создан искусственным интеллектом.
Первоначальная метка с искусственным интеллектом на рынке
TikTok утверждает свою позицию в качестве перспективной платформы в сфере прозрачности искусственного интеллекта, являясь одной из первых социальных медиаплатформ, которые внедряют такие изменения. Они будут использовать технологию «content credentials», разработанную Коалицией по подлинности и верификации контента (C2PA), которая включает крупных технологических партнеров, таких как Adobe, Arm, Intel, Microsoft и Truepic.
Повышение прозрачности над техниками с водяными знаками
Клэр Лейбовиц, руководитель направления «Искусственный интеллект и интеграция медиа» в организации гражданского общества ПАИ, подчеркивает, что «content credentials» обеспечивают бóльшую прозрачность, чем традиционные техники ставки водяных знаков.
Соответствие долгосрочной политике
Соглашение пользователей TikTok уже более года требует метки для реалистичного контента, созданного искусственным интеллектом, что соответствует этой новой инициативе.
Движение отрасли к идентификации искусственного интеллекта
Этот шаг следует за предыдущими объявлениями технологических гигантов, таких как Meta и Google, указывая на тенденцию индустрии к установлению технических стандартов для идентификации визуального и звукового контента, созданного с помощью искусственного интеллекта, на различных платформах.
Связанные факты:
— TikTok стремительно развивается и является одной из ведущих социальных медиаплатформ в мире, особенно популярной среди молодых пользователей благодаря контенту в формате коротких видеороликов.
— Рост использования искусственного интеллекта в создании контента включает в себя «глубокие фейки», которые представляют гиперреалистичные видео- и аудиоролики, в которых лицо или голос человека заменены на чужие, вызывая обеспокоенность возможностью распространения дезинформации и цифрового подмены.
— Четкая маркировка контента, созданного искусственным интеллектом, способствует цифровой грамотности и помогает пользователям различать между подлинным и синтезированным контентом.
— Технологии искусственного интеллекта становятся все более продвинутыми и могут генерировать контент, иногда неотличимый от контента, созданного человеком, что делает определение такого контента сложной задачей.
Важные вопросы и ответы:
— Почему TikTok маркирует контент, созданный искусственным интеллектом? TikTok маркирует контент, созданный искусственным интеллектом, чтобы обеспечить большую прозрачность для пользователей и информировать их о том, когда они взаимодействуют с контентом, созданным или измененным с помощью искусственного интеллекта.
— Как новая политика TikTok повлияет на создателей контента? Создатели контента могут потребоваться адаптироваться, убедившись, что контент, созданный или измененный с помощью искусственного интеллекта, должны быть соответствующим образом помечены, что может повлиять на творческие процессы и восприятие их контента аудиторией.
Основные вызовы или противоречия:
— Вызов эффективной реализации: Обеспечение точной маркировки всего контента, созданного искусственным интеллектом, может быть затруднительным в связи с огромным объемом пользовательского контента на TikTok.
— Приватность и глубокие фейки: Существует обеспокоенность тем, что технологию искусственного интеллекта можно использовать для создания вводящего в заблуждение или вредного контента, такого как глубокие фейки, и маркировка может не полностью решить эти этические и проблемы конфиденциальности.
Преимущества и недостатки:
— Преимущества:
— Пользователи могут принимать более обоснованные решения о потребляемом ими контенте.
— Это способствует прозрачности и цифровой грамотности, противостоя угрозе распространения дезинформации.
— Это может установить прецедент для других платформ увеличить усилия по идентификации контента, созданного искусственным интеллектом.
— Недостатки:
— Система может пропустить не весь контент, созданный искусственным интеллектом, что приведет к пробелам в прозрачности.
— Некоторые создатели контента могут считать, что маркировка контента, созданного искусственным интеллектом, может снизить вовлеченность их аудитории с контентом.
— Могут возникнуть ложноположительные случаи, когда контент, созданный человеком, маркируется как созданный искусственным интеллектом.
Связанные ссылки в запрошенном формате (предполагая, что эти URL-адреса действительны и актуальны к моменту информации, доступной к марту 2023 года):
— TikTok
— Коалиция по подлинности и верификации контента (C2PA)
— Партнерство по искусственному интеллекту (PAI)