Skupina raziskovalcev z Univerze v Chicagu je predstavila Nightshade 1.0, pionirsko orodje za političenje podatkov, ki je namenjeno boju proti nepooblaščeni uporabi modelov strojnega učenja. To orodje deluje v sodelovanju z Glaze, obrambnim zaščitnim orodjem, o katerem se je že poročalo v časniku The Register.
Nightshade je posebej zasnovan za ciljanje slikovnih datotek in je namenjen prisili modelov strojnega učenja, da spoštujejo pravice ustvarjalcev vsebin. S pomočjo političenja slikovnih podatkov Nightshade povzroča motnje v modelih, ki prebavljajo nepooblaščeno vsebino. Orodje zmanjšuje vidne spremembe na izvirni sliki za človeško oko, hkrati pa zmede umetno inteligenco. Na primer, slika, ki se ljudem prikaže kot zasenčena slika krave na zelenem polju, se lahko umetna inteligenca razlaga kot ročna torba, ki leži na travi.
Ekipa za Nightshade vključuje doktorske študente Shawn Shana, Wenxina Dinga in Josephine Passananti ter profesorje Heather Zheng in Ben Zhao. Podrobnosti o Nightshadeu so opisane v raziskovalnem članku, objavljenem oktobra 2023. Tehnika, ki jo uporablja Nightshade, je napad političenja, specifičen za posamezen dražljaj, pri katerem se slike namenoma manipulirajo, da se zameglijo meje njihovih pravih oznak med usposabljanjem modelov.
Vključitev Nightshadea je odgovor na naraščajočo skrb glede nepooblaščenega pridobivanja podatkov, kar je privedlo do več pravnih sporov med ustvarjalci vsebin in podjetji za umetno inteligenco. Raziskovalci trdijo, da lahko Nightshade služi kot močno orodje za lastnike vsebin za zaščito njihove intelektualne lastnine pred trenerji modelov, ki prezirajo avtorske opombe in druge oblike dovoljenj.
Pomembno je opozoriti, da ima Nightshade omejitve. Programska oprema lahko povzroči minimalne razlike v primerjavi z izvirno sliko, še posebej pri umetniških delih z ravnimi barvami in gladkimi ozadji. Poleg tega se lahko v prihodnosti razvijejo metode za zoperstavljanje Nightshadeu, vendar raziskovalci verjamejo, da bodo svojo programsko opremo prilagodili.
Ekipa predlaga, da umetniki uporabljajo tudi Glaze v kombinaciji z Nightshadeom, da zaščitijo svoje vizualne sloge. Medtem ko se Nightshade osredotoča na slikovne podatke, Glaze spreminja slike, da modelom prepreči ponovno ustvarjanje umetniškega sloga umetnika. Z zaščito tako vsebine kot sloga svojega dela lahko umetniki ohranjajo svoj ugled in odvračajo nepooblaščeno reprodukcijo svoje umetniške identitete.
Čeprav je treba trenutno Nightshade in Glaze prenesti in namestiti ločeno, ekipa dela na razvoju združene različice, ki bo poenostavila postopek za ustvarjalce vsebin.
Nightshade Pogosta vprašanja:
V: Kaj je Nightshade 1.0?
O: Nightshade 1.0 je orodje za političenje podatkov, ki so ga razvili raziskovalci z Univerze v Chicagu, da bi se borili proti nepooblaščeni uporabi modelov strojnega učenja.
V: Kakšen je namen Nightshadea?
O: Nightshade je zasnovan za prisiljevanje modelov strojnega učenja, da spoštujejo pravice ustvarjalcev vsebin z političenjem slikovnih podatkov in povzročanjem motenj v modelih, ki prebavljajo nepooblaščeno vsebino.
V: Kako deluje Nightshade?
O: Nightshade zmanjšuje vidne spremembe na izvirni sliki, hkrati pa zmede umetno inteligenco. Manipulira slikovne podatke na način, da se ljudem zazdi ena stvar, umetna inteligenca pa jo interpretira drugače.
V: Kdo je razvil Nightshade?
O: Ekipa za Nightshade vključuje doktorske študente Shawn Shana, Wenxina Dinga in Josephine Passananti ter profesorje Heather Zheng in Ben Zhao z Univerze v Chicagu.
V: Ali obstaja raziskovalni članek o Nightshadeu?
O: Da, raziskovalci so v oktobru 2023 objavili raziskovalni članek, v katerem podrobno opisujejo Nightshade.
V: Kaj je napad političenja, specifičen za posamezen dražljaj?
O: Nightshade uporablja tehniko napada političenja, specifičnega za posamezen dražljaj, pri kateri se slike med usposabljanjem modelov namerno manipulirajo, da se zameglijo meje njihovih pravih oznak.
V: Kateri problem želi Nightshade rešiti?
O: Nightshade je bil razvit kot odziv na skrb zaradi nepooblaščenega pridobivanja podatkov, kar je privedlo do pravnih sporov med ustvarjalci vsebin in podjetji za umetno inteligenco.
V: Kakšne so omejitve Nightshadea?
O: Nightshade lahko povzroča minimalne razlike v primerjavi z izvirno sliko, še posebej pri umetniških delih z ravnimi barvami in gladkimi ozadji. V prihodnosti se lahko razvijejo tudi metode za zoperstavljanje Nightshadeu.
V: Kaj je Glaze?
O: Glaze je obrambno zaščitno orodje, ki deluje v sodelovanju z Nightshadeom. Spreminja slike, da modelom prepreči ponovno ustvarjanje vizualnega sloga umetnika.
V: Kako umetniki lahko zaščitijo svoje delo s Nightshadeom in Glazeom?
O: Z uporabo Nightshadea in Glazea skupaj umetniki lahko zaščitijo tako vsebino kot slog svojega dela, ohranjajo svoj ugled in odvračajo nepooblaščeno reprodukcijo.
The source of the article is from the blog oinegro.com.br