Grupė Čikagos universiteto tyrėjų pristatė Nightshade 1.0, naujausią pažeidžiamąjį duomenų užteršimo įrankį, skirtą kovoti su neteisėtu „machine learning“ modelių naudojimu. Šis įrankis veikia kartu su gynybos apsauginiu įrankiu „Glaze“, apie kurį ankščiau informavo „The Register“.
Nightshade yra specialiai sukurtas tam, kad galėtų paveikti paveikslėlių failus ir priversti „machine learning“ modelius gerbti turinio kūrėjų teises. Užteršdamas paveikslėlių duomenis, Nightshade sukelia sutrikimus modeliams, kurie suvartoja neleistiną turinį. Šis įrankis minimaliai pakeičia originalų paveikslėlį žmogaus akiai pastebimai, tuo tarpu klaidina dirbtinio intelekto modelius. Pavyzdžiui, žmogui gali atrodyti paveikslėlis su paveiktomis skridinės nuotraukomis iš pievos, o dirbtinis intelektas gali suvokti jį kaip rankinė, nusėdusią ant žolės.
Nightshade komandą sudaro Čikagos universiteto daktaro studentai Shawn Shan, Wenxin Dingas ir Josephine Passananti, taip pat profesoriai Heather Zheng ir Ben Zhao. Jie išsamiai apibūdino Nightshade detalesai tyrime, kuris buvo paskelbtas 2023 m. spalio mėn.
Nightshade naudoja prompto-specifinę užteršimo ataką, kurioje sąmoningai manipuliuojamos nuotraukos, kad išbūgtų tikrųjų etikečių ribos modelio mokymo metu.
Nightshade kūrimas yra atsakas į nuolat didėjantį susirūpinimą dėl neleistino duomenų nukrapštymo, kuris sukėlė kelis teisinius ginčus tarp turinio kūrėjų ir dirbtinio intelekto įmonių. Tyrėjai teigia, kad Nightshade gali tapti galingu įrankiu, leidžiančiu turinio savininkams apsaugoti savo intelektinę nuosavybę nuo modelių mokymo specialistų, kurie nekreipia dėmesio į autorių teisių įspėjimus ir kitas sutartines formas.
Svarbu pažymėti, kad Nightshade turi savo ribas. Programinė įranga gali sukelti subtilių skirtumų nuo originalaus paveikslėlio, ypač jei tai yra darbai su vienodiems spalvoms ir tolygiai fonu. Taip pat ateityje gali būti sukurti metodai, skirti neutralizuoti Nightshade, tačiau tyrėjai tikisi galėti prisitaikyti savo programinę įrangą atitinkamai.
Komanda siūlo menininkams naudoti „Glaze“ kartu su „Nightshade“, kad būtų apsaugoti jų vizualiniai stiliai. Nors „Nightshade“ koncentruojasi į paveikslų duomenis, „Glaze“ keičia paveikslus, kad modeliai negalėtų atkurti menininko vizualinio stiliaus. Apsaugodami tiek savo darbo turinį, tiek stilių, menininkai gali išlaikyti savo prekės ženklo reputaciją ir atbaidyti neleistiną jų meninio identiteto dauginimą.
Nors „Nightshade“ ir „Glaze“ šiuo metu reikalauja atskirų atsisiuntimų ir įdiegimų, komanda dirba siekdama sukurti apjungtą versiją, siekdama palengvinti procesą turinio kūrėjams.
Nightshade DUK:
K: Kas yra Nightshade 1.0?
A: Nightshade 1.0 yra Čikagos universiteto tyrėjų sukurtas pažeidžiamas duomenų užteršimo įrankis, skirtas kovoti su neteisėtu „machine learning“ modelių naudojimu.
K: Koks yra Nightshade tikslas?
A: Nightshade yra sukurtas tam, kad priverstų „machine learning“ modelius gerbti turinio kūrėjų teises, užteršiant paveikslų duomenis ir sukeldamas sutrikimus modeliams, kurie naudoja neleistiną turinį.
K: Kaip veikia Nightshade?
A: Nightshade minimaliai keičia originalų paveikslėlį, tuo tarpu klaidina dirbtinio intelekto modelius. Jis manipuliuoja paveikslų duomenimis taip, kad žmonėms jie gali atrodyti vienaip, o dirbtiniams intelektams – kitaip.
K: Kas sukūrė Nightshade?
A: Nightshade komandą sudaro Čikagos universiteto daktaro studentai Shawn Shan, Wenxin Dingas ir Josephine Passananti, taip pat profesoriai Heather Zheng ir Ben Zhao.
K: Ar egzistuoja tyrinėjimų dokumentas apie Nightshade?
A: Taip, tyrėjai paskelbė tyrinėjimo dokumentą, kuris išsamiai aprašo Nightshade detales, spalio mėnesį 2023 metais.
K: Kas yra prompto-specifinė užteršimo ataka?
A: Nightshade naudoja prompto-specifinės užteršimo atakos metodą manipuliuojant paveikslais modelio mokymo metu, kad būtų išblaškomi jų tikrųjų etikečių ribos.
K: Kokią problemą Nightshade siekia išspręsti?
A: Nightshade buvo sukurtas kaip atsakas į susirūpinimą keliantį neleistiną duomenų gavimą, kuris sukėlė teisinius ginčus tarp turinio kūrėjų ir dirbtinio intelekto įmonių.
K: Kokios yra Nightshade apribojimai?
A: Nightshade gali sukelti subtilius skirtumus nuo originalaus paveikslėlio, ypač jei tai yra darbai su vienodais spalvomis ir tolygiu fonu. Taip pat ateityje gali būti sukurti metodai, kurie neutralizuotų „Nightshade“ poveikį.
K: Kas yra Glaze?
A: Glaze yra apsauginis įrankis, kuris kartu su „Nightshade“ keičia paveikslus, kad modeliai negalėtų atkurti menininko vizualinio stiliaus.
K: Kaip menininkai gali apsaugoti savo darbą naudodami „Nightshade“ ir „Glaze“?
A: Naudodamiesi „Nightshade“ ir „Glaze“ kartu, menininkai gali apsaugoti tiek darbo turinį, tiek stilių, išlaikydami savo prekės ženklo reputaciją ir atbaidydami neleistiną reprodukciją.
Apibrėžimai:
1. „Machine learning“ modeliai: Algoritmai ir statistiniai modeliai, leidžiantys kompiuteriams mokytis ir atlikti prognozes ar priimti sprendimus be išankstinių instrukcijų.
2. Duomenų užteršimas: Technika, kurioje kenkėjiški veikėjai manipuliuoja duomenimis, kad suklaidintų mašininio mokymosi modelius ir priverstų juos gaminti neteisingus rezultatus.
3. Turinio kūrėjai: Asmenys ar organizacijos, kurios kuria originalius kūrinius, įskaitant meną, literatūrą, muziką ir kt.
4. Autorių teisių įspėjimai: Deklaracijos, nurodančios konkrečio kūrinio savininkystę ir teises bei įspėjančios dėl neleistino naudojimo ar reprodukcijos.
Rekomenduojami susiję nuorodų šaltiniai:
1. Čikagos universiteto naujienos
2. „The Register“
The source of the article is from the blog regiozottegem.be