Група от учени от Университета на Чикаго представи Nightshade 1.0 – новаторски инструмент за отравяне на данни, създаден с цел да се опротивява на неоторизираното използване на модели за машинно самообучение. Този инструмент работи заедно с Glaze – защитен инструмент, за който преди това е било писано в The Register.
Nightshade е специално проектиран да цели изображения и има за цел да принуди моделите за машинно самообучение да зачитат правата на творците на съдържание. Чрез отравяне на данните в изображенията, Nightshade създава пречки за моделите, които консумират неоторизирано съдържание. Инструментът намалява видимите промени в оригиналното изображение, които хората забелязват, докато същевременно обърква моделите на изкуствен интелект. Например, едно изображение може да изглежда като сенчеста снимка на крава на зелено поле за хората, но AI модел може да го интерпретира като чанта, лежаща в тревата.
Екипът зад Nightshade включва докторанти от Университета на Чикаго – Шон Шан, Уенксин Динг и Джозефин Пасананти, както и професорите Хедър Женг и Бен Жао. Те обясняват детайлите на Nightshade в научната си статия, публикувана през октомври 2023 г. Техниката, използвана в Nightshade, е отрова на данни специфична за промпта, при която снимките се умислено манипулират, за да се помрачат границите на истинските им етикети по време на обучението на модела.
Въвеждането на Nightshade е отговор на растящата загриженост относно неоторизираното събиране на данни, което е довело до няколко правни битки между творците на съдържание и фирми за изкуствен интелект. Учените твърдят, че Nightshade може да служи като мощен инструмент за собствениците на съдържание, за да защитят своята интелектуална собственост от треньори на модели, които пренебрегват авторските права и други форми на разрешения.
Важно е да се отбележи, че Nightshade има свои ограничения. Софтуерът може да доведе до субтилни различия спрямо оригиналното изображение, особено при изкуство с равни цветове и гладки фонове. В бъдеще обаче могат да се разработят методи за противодействие на Nightshade, но учените вярват, че ще могат да адаптират софтуера си според нуждите.
Екипът предлага също да се използва Glaze в комбинация с Nightshade от страна на художниците, за да защитят своите визуални стилове. Докато Nightshade се фокусира върху данните от изображения, Glaze променя изображенията, за да предотврати моделите да репликират визуалния стил на художника. Като защитават и съдържанието и стила на своята работа, художниците могат да запазят своята репутация и да отклоняват неоторизираното повтаряне на техния художествен идентитет.
Въпреки че Nightshade и Glaze в момента изискват отделно изтегляне и инсталиране, екипът работи по разработката на обединена версия, за да улесни процеса за създателите на съдържание.
Често задавани въпроси за Nightshade:
Q: Какво е Nightshade 1.0?
A: Nightshade 1.0 е инструмент за отравяне на данни, разработен от учени от Университета на Чикаго, предназначен да се бори с неоторизираното използване на модели за машинно самообучение.
Q: Каква е целта на Nightshade?
A: Nightshade е проектиран, за да принуди моделите за машинно самообучение да зачитат правата на творците на съдържание, като отровява данните в изображенията и създава пречки за моделите, които консумират неаторизирано съдържание.
Q: Как работи Nightshade?
A: Nightshade намалява видимите промени в оригиналното изображение, докато обърква моделите на изкуствения интелект. Той манипулира данните в изображенията по такъв начин, че хората може да ги възприемат като нещо, а AI моделите да ги интерпретират по различен начин.
Q: Кой разработи Nightshade?
A: Екипът, зад Nightshade, включва докторантите от Университета на Чикаго – Шон Шан, Уенксин Динг и Джозефин Пасананти, както и професорите Хедър Женг и Бен Жао.
Q: Има ли научен доклад за Nightshade?
A: Да, учените публикуваха научна статия, в която представят подробности за Nightshade, през октомври 2023 г.
Q: Каква е prompt-specific poisoning attack техниката?
A: Nightshade използва техника на prompt-specific poisoning attack, която манипулира снимките по време на обучението на модела, за да помрачи границите на техните истински етикети.
Q: Каква проблем решава Nightshade?
A: Nightshade е разработен в отговор на загрижеността относно неоторизираното събиране на данни, което е довело до правни противоречия между творците на съдържание и фирми за изкуствен интелект.
Q: Какви са ограниченията на Nightshade?
A: Nightshade може да доведе до субтилни разлики спрямо оригиналното изображение, особено при изкуство с равни цветове и гладки фонове. В бъдеще обаче може да се разработят методи за противодействие на Nightshade.
Q: Какво е Glaze?
A: Glaze е защитен инструмент, който работи заедно с Nightshade. Той променя изображенията, за да предотврати моделите да репликират визуалния стил на художника.
Q: Как художниците могат да защитят своята работа с Nightshade и Glaze?
A: Като използват Nightshade и Glaze заедно, художниците могат да защитят и съдържанието и стила на своата работа, запазвайки своята репутация и прече на неаторизираното възпроизвеждане.
The source of the article is from the blog elperiodicodearanjuez.es