Kevin TopolskyИсследователи удаляют ссылки на вредные изображения
Исследователи в области искусственного интеллекта приняли решительные меры, удалив более 2000 ссылок на изображения, изображающие сексуальное насилие над детьми, из известного набора данных, используемого для обучения инструментов генерации изображений с использованием искусственного интеллекта.
Непрерывное освещение на канале Telegram
По последнему отчету агентства Associated Press, «Lion Research Database», огромный индекс онлайн-изображений и аннотаций, который являлся источником для ведущих создателей изображений на основе искусственного интеллекта, оказался содержать явные ссылки на изображения сексуального насилия над детьми.
Принятые меры для борьбы с злоупотреблением
В прошлом году исследование Стэнфордского интернет-обсерватора подчеркнуло наличие явных ссылок на изображения сексуального насилия над детьми в базе данных «Lion», позволяя некоторым инструментам искусственного интеллекта создавать реалистичные поддельные изображения детей.
Совместные усилия для безопасного будущего
В ответ на результаты исследования база данных «Lion» быстро удалила свой набор данных. Сотрудничая со Стэнфордским университетом, а также организациями по борьбе с эксплуатацией в Канаде и Великобритании, «Lion» прилагает усилия для устранения проблемы и выпустила исправленный набор данных для последующего исследования в области искусственного интеллекта.
Решение перед лицом будущих вызовов
Хотя значительные улучшения были признаны, необходимы дополнительные шаги для удаления любых оставшихся «загрязненных моделей», которые все еще могут создавать вредные изображения детей. Усилия продолжаются для обеспечения безопасности и благополучия детей в онлайн-среде.
Ответственность и обязанность индустрии
Один из инструментов искусственного интеллекта, связанный с набором данных «Lion» и определенный как «самая популярная модель для генерации явных изображений», был удален из репозитория моделей искусственного интеллекта компанией из Нью-Йорка. Компания подчеркнула важность активного соблюдения этических стандартов в исследованиях в области искусственного интеллекта.
Крайне важно решать проблемы злоупотребления технологиями для защиты детей во всем мире, как отмечается в текущих отчетах и исследовательских усилиях.
