Последние разоблачения детской благотворительной организацией привлекли внимание к тревожной тенденции, когда инструменты искусственного интеллекта (ИИ) используются для эксплуатации детей. Согласно отчетам, раздел, обнаруженный в темной сети, был особенно известен тем, что подстрекает преступников использовать программное обеспечение, которое может цифровым образом удалять одежду с изображений.
Эксплуатация включает изменение кажущихся невинных фотографий, отправленных детьми, обычно в нижнем белье, в явные изображения с использованием технологий ИИ ‘deepnude’. Эти обработанные фотографии могут использоваться для вынуждения ребенка отправлять более неуместный контент под угрозой дальнейшего разоблачения в случае невыполнения требований.
В драматическом эскалации Интернет-фонд наблюдения (IWF) указал, что онлайн-руководства, циркулирующие на скрытых каналах и имеющие почти 200 страниц, предоставляют инструкции злонамеренным лицам о том, как эффективно использовать эти на основе ИИ инструменты.
Отчеты включают тревожное заявление анонимного автора руководства, утверждающего, что ему удалось вымогать у девочек в возрасте всего 13 лет обнаженные изображения. Эта тактика вызвала серьезные опасения относительно легкости доступа к инструментам удаления одежды на основе ИИ и их потенциального злоупотребления.
Более того, IWF зарегистрировал, что в 2023 были зафиксированы экстремально высокие уровни онлайн-злоупотреблений, с обнаружением свыше 275 000 веб-страниц с детским сексуальным насилием в прошлом году. Это самое высокое число, которое организация когда-либо регистрировала, причем значительная часть этих страниц содержит самый тяжелый контент ‘Категория А’, включающий случаи сексуального насилия и насилия.
IWF обнаружил тысячи самопроизведенных изображений детского сексуального насилия, где жертв были заставлены или запуганы записывать свое насилие. Сюзи Харгривз, исполнительный директор IWF, подчеркивает неотложность проведения возрастно-подходящих бесед с детьми, чтобы помочь им выявить потенциальные опасности.
В ответ на растущую угрозу правительство Великобритании рассматривает меры по обеспечению безопасности детей в интернете, включая Закон об онлайновой безопасности, который обязывает соцсети заботиться о младших пользователях. Кроме того, рассматриваются предложения увеличить минимальный возраст для использования соцсетей с 13 до 16 лет и запретить продажу смартфонов детям до 16 лет.
Важные вопросы и ответы:
Q: Какова природа эксплуатации, описанная в статье?
A: Эксплуатация включает использование технологии ИИ ‘deepnude’ для цифрового изменения кажущихся невинных фотографий детей для создания и распространения явных изображений. Это может привести к шантажу детей для отправки более неуместного контента.
Q: Какая роль у Интернет-фонда наблюдения в этом вопросе?
A: IWF отслеживает и сообщает о контенте в интернете с детским сексуальным насилием. Они сыграли важную роль в документировании увеличения таких злоупотреблений и злоупотребления ИИ в схемах эксплуатации.
Q: Какие шаги предпринимаются для борьбы с этой эксплуатацией?
A: Правительство Великобритании обсуждает вопрос введения Закона об онлайновой безопасности, который обязал бы технологические компании защищать детей на своих платформах. Также рассматриваются предложения увеличить минимальный возраст для использования соцсетей и ограничить продажу смартфонов детям.
Основные проблемы и споры:
— Технологические достижения: Поскольку технология ИИ становится более сложной и доступной, существует постоянная проблема предотвращения ее злоупотребления.
— Регулирование баланса: Найти баланс между сохранением интернет-свободы и установлением законов для защиты детей без задушения инноваций — значительная проблема.
— Глобальная юрисдикция: Преступления в интернете не имеют границ, что усложняет правовую юрисдикцию и применение законов в разных странах.
Преимущества и недостатки:
Преимущества:
— ИИ может быть невероятно полезным инструментом для обнаружения и предотвращения онлайн-эксплуатации детей, если используется этично.
— Осведомленность и образование об возможностях и рисках инструментов ИИ могут дать возможность детям и взрослым защищать себя от такой эксплуатации.
— Регуляторные меры могут помочь вынудить соцсети придавать приоритет безопасности детей.
Недостатки:
— Инструменты ИИ могут быть доступны и использоваться злонамеренными лицами, что облегчает манипулирование изображениями для злонамеренных целей.
— Принятие регулирования может вызвать беспокойства по поводу конфиденциальности и свободы слова среди взрослых пользователей социальных медиа.
Чтобы узнать больше о безопасности в интернете и усилиях по борьбе с эксплуатацией детей, вот несколько ссылок на основные домены, предоставляющие ценную информацию и ресурсы:
— Фонд наблюдения за интернетом (IWF)
— NSPCC (Национальное общество по предотвращению жестокого обращения с детьми)
— Правительство Великобритании
— ЮНИСЕФ
СтОит отметить, что все предоставленные выше ссылки являются основными доменами и были проверены к моменту обрезки информации.
The source of the article is from the blog dk1250.com