Ülikooli Chicago teadlaste rühm on käivitanud Nightshade 1.0, tipptasemel ründava andmete mürgitamise tööriista, mis on loodud võitluseks masinõppe mudelite lubamatu kasutamise vastu. See tööriist töötab koos defensiivse kaitsevahendiga Glaze, millest oli varem juttu The Registeri artiklis.
Nightshade on spetsiaalselt kujundatud sihtmärgiks pildifailidele ja see on suunatud masinõppe mudelite sundimisele austama sisu loojate õigusi. Pildiandmete mürgitamise abil tekitab Nightshade mudelitele, mis töötlevad lubamatut sisu, häireid. Tööriist minimeerib inimese silma jaoks nähtavaid muutusi algsele pildile, samas hägustades AI mudelite tõlgendust. Näiteks võib inimeste silmis pilt tunduda kui varjutatud lehmadega roheline väljamaa, kuid AI mudel võib seda tõlgendada kui käekotti murus lebamas.
Nightshade meeskonda kuuluvad Chicago Ülikooli doktorandid Shawn Shan, Wenxin Ding ja Josephine Passananti, samuti professorid Heather Zheng ja Ben Zhao. Nad on kirjeldanud Nightshade’i üksikasju 2023. aasta oktoobris avaldatud uurimispaberi väljaandes. Nightshade’is kasutatav tehnik on spetsiifilise käsu mürgitamisrünnak, kus pilte tahtlikult manipuleeritakse, et hägustada nende tõeliste silte mudelite koolitusel.
Nightshade’i käivitamine on vastus kasvavale murele andmete lubamatu kogumise üle, mis on põhjustanud mitmeid õigusvaidlusi sisu loojate ja tehisintellekti ettevõtete vahel. Teadlased väidavad, et Nightshade võib olla võimas vahend sisu omanikele nende intellektuaalomandi kaitsmiseks mudelite treenijate vastu, kes eiravad autoriõiguse märke ja lubade muid vorme.
Oluline on märkida, et Nightshade’i omab ka piiranguid. Tarkvara võib põhjustada peeneid erinevusi algse pildi suhtes, eriti tööde puhul, mis sisaldavad ühtlasi värvikaid taustu. Lisaks võidakse tulevikus välja töötada meetodeid Nightshade’i vastumürana, kuid teadlased usuvad, et nad suudavad oma tarkvara vastavalt kohandada.
Meeskond soovitab kunstnikel kasutada Nightshade’i kombineeritult Glaze’iga, et kaitsta oma visuaalset stiili. Samal ajal kui Nightshade keskendub pildiandmetele, muudab Glaze pilte, et takistada mudelitel kunstniku visuaalset stiili jäljendamast. Kaitstes oma töö sisu ja stiili, saavad kunstnikud säilitada oma brändi mainet ja tõkestada sisu volitamatu reprodutseerimine.
Kuigi Nightshade ja Glaze nõuavad praegu eraldi allalaadimist ja paigaldamist, töötab meeskond selle kallal, et arendada välja ühendatud versioon sisu loojate jaoks protsessi lihtsustamiseks.
Nightshade korduma kippuvad küsimused:
K: Mis on Nightshade 1.0?
V: Nightshade 1.0 on ründav andmete mürgitamise tööriist, mille on välja töötanud University of Chicago teadlased võitluseks masinõppe mudelite lubamatu kasutamise vastu.
K: Mis on Nightshade eesmärk?
V: Nightshade on loodud sundima masinõppe mudeleid austama sisu loojate õigusi, mürgitades pildiandmeid ja tekitades häireid mudelitele, mis töötlevad lubamatut sisu.
K: Kuidas Nightshade töötab?
V: Nightshade minimeerib inimese silmale nähtavaid muutusi algsele pildile, samas segaduses ajades AI mudeleid. See manipuleerib pildiandmetega viisil, mis võib tekitada inimestes ühe tajumise, samal ajal kui AI mudelid tõlgendavad seda erinevalt.
K: Kes arendas Nightshade’i?
V: Nightshade’i meeskonda kuuluvad doktorandid Shawn Shan, Wenxin Ding ja Josephine Passananti, samuti professorid Heather Zheng ja Ben Zhao Chicago Ülikoolist.
K: Kas Nightshade kohta on uurimistööd?
V: Jah, teadlased on avaldanud uurimistöö, milles kirjeldavad Nightshade’i üksikasju, 2023. aasta oktoobris.
K: Mis on prompt-spetsiifiline mürgitusrünnak?
V: Nightshade kasutab prompt-spetsiifilise mürgitusrünnaku tehnikat, et mudelite koolituse käigus manipuleerida piltidega ja hägustada nende tõeliste siltide piire.
K: Millise probleemi lahendamiseks Nightshade püüdleb?
V: Nightshade’i arendati vastusena murele lubamatu andmete kogumise üle, mis on põhjustanud õigusvaidlusi sisu loojate ja tehisintellekti ettevõtete vahel.
K: Millised on Nightshade’i piirangud?
V: Nightshade võib põhjustada peeneid erinevusi algse pildi suhtes, eriti tööde puhul, mis sisaldavad ühtlasi värvikaid taustu. Tulevikus võidakse välja töötada meetodeid Nightshade vastumõjuna.
K: Mis on Glaze?
V: Glaze on defensiivne kaitsevahend, mis töötab koos Nightshade’iga. See muudab pilte, et takistada mudelitel kunstniku visuaalset stiili jäljendamast.
K: Kuidas saavad kunstnikud kaitsta oma tööd Nightshade’i ja Glaze’iga?
V: Kasutades Nightshade’i ja Glaze’i koos, saavad kunstnikud kaitsta nii oma töö sisu kui ka stiili, säilitades oma brändi mainet ja tõkestades volitamatu reprodutseerimist.
Määratlused:
1. Masinõppe mudelid: Algoritmid ja statistilised mudelid, mis võimaldavad arvutitel õppida ja teha ennustusi või otsuseid ilma, et need oleksid otse programmitud.
2. Andmete mürgitamine: Tehnika, kus pahatahtlikud tegijad manipuleerivad andmetega, et eksitada masinõppe mudeleid ja tekitada neile vale tulemusi.
3. Sisu loojad: Isikud või asutused, kes toodavad originaalseid kunsti-, kirjandus-, muusikateoseid jms.
4. Autoriõiguse märked: Avaldused, mis näitavad konkreetse teose omanikku ja õigusi ning hoiatavad lubamatu kasutamise või reprodutseerimise eest.
Soovitatavad seotud lingid:
1. University of Chicago uudised
2. The Register
The source of the article is from the blog scimag.news