Группа исследователей из Университета Чикаго выпустила Nightshade 1.0 — передовой инструмент для отравления данных, созданный для борьбы с несанкционированным использованием моделей машинного обучения. Этот инструмент работает совместно с Glaze — инструментом защиты, рассмотренным ранее в The Register.
Nightshade специально разработан для работы с файлами изображений и направлен на то, чтобы заставить модели машинного обучения уважать права создателей контента. Путем отравления данных изображения, Nightshade создает помехи для моделей, которые принимают несанкционированный контент. Инструмент минимизирует заметные изменения оригинального изображения для человеческого глаза, в то время как сбивает с толку модели искусственного интеллекта. Например, для людей изображение может выглядеть как затененное изображение коровы на зеленом поле, а модель искусственного интеллекта может его интерпретировать как сумку, лежащую на траве.
Команда разработчиков Nightshade включает аспирантов Университета Чикаго Шона Шана, Вэньсин Динга и Джозефин Пассананти, а также профессоров Хизер Женг и Бена Жао. Они представили детали Nightshade в научной статье, опубликованной в октябре 2023 года. Техника, используемая в Nightshade, является направленной атакой с отравлением, где изображения намеренно изменяются, чтобы размыть границы их истинных меток во время обучения моделей.
Введение Nightshade является ответом на растущую озабоченность несанкционированным сбором данных, что привело к нескольким судебным разбирательствам между создателями контента и предприятиями по искусственному интеллекту. Исследователи утверждают, что Nightshade может служить мощным инструментом для защиты интеллектуальной собственности контент-владельцев от тренеров моделей, которые не учитывают авторские права и другие разрешения.
Важно отметить, что у Nightshade есть ограничения. Программное обеспечение может привести к незначительным отличиям от оригинального изображения, особенно в случае произведений искусства с плоскими цветами и гладкими фонами. Кроме того, в будущем могут быть разработаны методы противодействия Nightshade, но исследователи считают, что они смогут соответствующим образом адаптировать свое программное обеспечение.
Команда предлагает художникам также использовать Glaze в сочетании с Nightshade для защиты их художественного стиля. В то время как Nightshade фокусируется на обработке изображений, Glaze изменяет изображения, чтобы модели не могли воспроизводить визуальный стиль художников. Защищая и содержание, и стиль своих работ, художники могут сохранять свою репутацию бренда и подавлять несанкционированное воспроизводство своей художественной идентичности.
В настоящее время Nightshade и Glaze требуют отдельного скачивания и установки, но команда работает над созданием комбинированной версии, чтобы упростить процесс для создателей контента.
Часто задаваемые вопросы о Nightshade:
The source of the article is from the blog yanoticias.es