Група дослідників з Університету Чикаго створила Nightshade 1.0 – передовий інструмент для отруєння даних, призначений боротися з несанкціонованим використанням моделей машинного навчання. Цей інструмент співпрацює з Glaze, захисним інструментом, про який раніше повідомлялося The Register.
Nightshade спеціально призначений для роботи з зображеннями та має на меті змусити моделі машинного навчання поважати права творців вмісту. За допомогою отруєння даних зображень Nightshade створює перешкоди для моделей, які споживають несанкціонований вміст. Інструмент мінімізує видимі зміни оригінального зображення для людського ока, одночасно заплутуючи штучні інтелектуальні моделі. Наприклад, для людей зображення може здатися затіненим зображенням корови на зеленому полі, але для ШІ може здатися, що це рукавиця, лежачи на траві.
Команда, що стоїть за Nightshade, включає докторантів Університету Чикаго Шона Шана, Венксіна Дінга та Джозефін Пасананті, а також професорів Хезер Жен та Бена Жао. Вони опублікували деталі Nightshade у дослідженні, яке вийшло у жовтні 2023 року. Техніка, яку використовують у Nightshade, використовує атаку з отруєнням у відповідь на конкретні запити, де зображення намірено маніпулюються, щоб розмити межі їх справжніх категорій під час навчання моделі.
Введення Nightshade є відповіддю на зростаюче занепокоєння несанкціонованим збиранням даних, що призвело до кількох судових суперечок між творцями вмісту та бізнесом ШІ. Дослідники стверджують, що Nightshade може бути потужним інструментом для власників вмісту для захисту їх інтелектуальної власності від тренерів моделей, які нехтували авторськими правовими повідомленнями та іншими формами дозволів.
Важливо відзначити, що у Nightshade є певні обмеження. Програмне забезпечення може призвести до незначних різниць від оригінального зображення, особливо для художніх робіт з плоскими кольорами та рівномірними фонами. Крім того, у майбутньому можуть бути розроблені методи протидії Nightshade, але дослідники вважають, що вони зможуть адаптувати своє програмне забезпечення відповідно.
Команда пропонує художникам також використовувати Glaze разом із Nightshade для захисту свого візуального стилю. Під час тоді Nightshade фокусується на зображеннях, Glaze змінює зображення, щоб запобігти моделям реплікувати візуальний стиль художника. Захищаючи як вміст, так і стиль своєї роботи, художники можуть зберігати свою репутацію бренду та гальмувати несанкціоновану репродукцію їх художньої ідентичності.
Незважаючи на те, що в даний час Nightshade та Glaze вимагають окремого завантаження та установки, команда працює над створенням комбінованої версії, яка спростить процес для творців вмісту.
Часто задавані питання щодо Nightshade:
The source of the article is from the blog yanoticias.es