YouTube принимает решительную позицию по использованию искусственного интеллекта (ИИ) при создании контента, изображающего умерших несовершеннолетних или жертв насилия. В рамках борьбы с злоупотреблениями технологией ИИ, платформа обновила свои политики по борьбе с домогательством и кибербуллингом. Применение этих политик начнется 16 января.
Такое решение было принято в ответ на контент-создателей, использующих ИИ для воссоздания образов умерших или пропавших детей. Эти авторы придавали ИИ-созданным персонажам детский голос, рассказывая подробности их смерти. Использование такой технологии вызвало серьезное внимание после публикации статьи в The Washington Post, которая подчеркнула случаи использования ИИ для описания похищения и смерти детей.
YouTube ясно заявляет, что любой контент, нарушающий эту политику, будет незамедлительно удален, после чего создателям будет направлено уведомление по электронной почте. В случаях, когда невозможно проверить безопасность размещенной ссылки, платформа также может удалить саму ссылку. YouTube подчеркивает свое стремление удалять вредоносный контент и обеспечивать безопасность своих пользователей.
Более того, YouTube внедрил систему предупреждений для каналов, которые повторно нарушают эту политику. Если канал получает три предупреждения за нарушения политики в течение 90-дневного периода, он может быть удален.
Это действие со стороны YouTube схоже с подобными разработками на китайской короткометражной платформе TikTok. TikTok недавно представил функцию, позволяющую авторам раскрывать наличие в своем контенте ИИ-сгенерированных или подвергнутых манипуляции материалов с реалистичными сценами. Этот шаг является частью усилий платформы по решению этических и безопасностных вопросов, связанных с использованием ИИ при создании контента.
Принимая такие меры, YouTube демонстрирует свое стремление поддерживать безопасную и уважительную среду для своих пользователей. Важно, чтобы онлайн-платформы противодействовали потенциальному злоупотреблению технологией и защищали уязвимых людей от эксплуатации.
The source of the article is from the blog enp.gr