Grupa istraživača sa Univerziteta u Chicagu lansirala je Nightshade 1.0, napredan alat za trovanje podacima koji je stvoren kako bi se borio protiv neovlaštenog korištenja modela mašinskog učenja. Ovaj alat radi u kombinaciji sa Glaze, defanzivnim zaštitnim alatom koji je prethodno pokriven od strane The Registera.
Nightshade je specifično dizajniran da cilja slikovne datoteke i ima za cilj da primora modele mašinskog učenja da poštuju prava kreatora sadržaja. Trovanjem podataka slika, Nightshade izaziva poremećaje za modele koji upijaju neovlašteni sadržaj. Ovaj alat minimalizira vidljive promjene na originalnoj slici za ljudsko oko, dok zbunjuje AI modele. Na primjer, slika može izgledati kao sjenčana slika krave na zelenom polju za ljude, ali AI model bi je mogao interpretirati kao torbu koja leži u travi.
Tim koji stoji iza Nightshadea uključuje doktorske studente Shawn Shana, Wenxin Dinga i Josephine Passananti, kao i profesore Heather Zheng i Ben Zhaoa. Oni su detalje o Nightshadeu opisali u istraživačkom radu objavljenom u oktobru 2023. godine. Tehnika koja se koristi u Nightshadeu je napad trovanjem specifičnim zahtjevima, gdje se slike namjerno manipulišu kako bi se doveli u pitanje njihovi pravi labeli tokom obuke modela.
Uvođenje Nightshadea je odgovor na rastuću zabrinutost zbog neovlaštenog prikupljanja podataka, što je dovelo do nekoliko pravnih bitaka između kreatora sadržaja i poslovnih subjekata koji koriste AI. Istraživači tvrde da Nightshade može poslužiti kao moćan alat za vlasnike sadržaja u zaštiti njihove intelektualne svojine od trenera modela koji ignoriraju autorske napomene i druge oblike dozvola.
Važno je napomenuti da Nightshade ima ograničenja. Softver može rezultirati suptilnim razlikama u odnosu na originalnu sliku, posebno kod umjetničkih djela sa ravnom bojom i glatkim pozadinama. Također, metode za suprotstavljanje Nightshadeu mogu se razviti u budućnosti, ali istraživači vjeruju da mogu prilagoditi svoj softver prema potrebi.
Tim predlaže umjetnicima da koriste i Glaze zajedno s Nightshadeom kako bi zaštitili svoj vizualni stil. Dok Nightshade fokusira na slikovne podatke, Glaze mijenja slike kako bi spriječio modele da repliciraju vizualni stil umjetnika. Zaštitom i sadržaja i stila svog rada, umjetnici mogu održavati svoj reputaciju brenda i odvratiti neovlašteno reproduciranje njihovog umjetničkog identiteta.
Iako Nightshade i Glaze trenutno zahtijevaju odvojene preuzimanje i instalacije, tim radi na razvoju zajedničke verzije kako bi pojednostavio proces za kreatore sadržaja.
Nightshade FAQ:
P: Šta je Nightshade 1.0?
O: Nightshade 1.0 je alat za trovanje podacima razvijen od strane istraživača sa Univerziteta u Chicagu kako bi se borio protiv neovlaštenog korištenja modela mašinskog učenja.
P: Kakva je svrha Nightshadea?
O: Nightshade je dizajniran da primora modele mašinskog učenja da poštuju prava kreatora sadržaja, trovanjem podataka slika i stvaranjem poremećaja u modelima koji upijaju neovlašteni sadržaj.
P: Kako Nightshade radi?
O: Nightshade minimalizira vidljive promjene na originalnoj slici dok zbunjuje AI modele. Manipuliše slikovnim podacima na način da ljudi mogu nešto vidjeti na slici, dok je AI model drugačije interpretira.
P: Ko je razvio Nightshade?
O: Tim koji stoji iza Nightshadea uključuje doktorske studente Shawa Shana, Wenxina Dinga i Josephine Passananti, kao i profesore Heather Zheng i Ben Zhao sa Univerziteta u Chicagu.
P: Postoji li istraživački rad o Nightshadeu?
O: Da, istraživači su objavili rad u kojem detaljno opisuju Nightshade u oktobru 2023. godine.
P: Šta je napad trovanjem specifičnim zahtjevima?
O: Nightshade koristi tehniku napada trovanjem specifičnom zahtjevima kako bi manipulisao slikama tokom obuke modela, zamagljujući granice njihovih pravih labela.
P: Kakav problem Nightshade pokušava riješiti?
O: Nightshade je razvijen kao odgovor na zabrinutost zbog neovlaštenog prikupljanja podataka, što je dovelo do pravnih bitaka između kreatora sadržaja i poslovnih subjekata koji koriste AI.
P: Kakva su ograničenja Nightshadea?
O: Nightshade može rezultirati suptilnim razlikama u odnosu na originalnu sliku, posebno kod umjetničkih djela sa ravnom bojom i glatkim pozadinama. Također, mogu se razviti buduće metode za suprotstavljanje Nightshadeu.
P: Šta je Glaze?
O: Glaze je defanzivni zaštitni alat koji radi u kombinaciji sa Nightshadeom. On mijenja slike kako bi spriječio modele da repliciraju vizualni stil umjetnika.
P: Kako umjetnici mogu zaštititi svoj rad sa Nightshadeom i Glazeom?
O: Koristeći Nightshade i Glaze zajedno, umjetnici mogu zaštititi i sadržaj i stil svog rada, održavajući reputaciju svog brenda i odvraćajući neovlašteno reproduciranje.
The source of the article is from the blog macnifico.pt