Viena pētnieku grupa no Universitātes Čikāgā ir radījusi Nightshade 1.0, jaunāko iemeslojošo datu apmānību rīku, kas izstrādāts, lai apkautu neatļauto mašīnmācības modelēšanas izmantošanu. Šis rīks darbojas kopā ar Glaze, aizsardzības rīku, kas agrāk tika apspriests The Register.
Nightshade ir speciāli izstrādāts, lai mērķētu attēla failus un piespiestu mašīnmācības modeļus ievērot saturveidotāju tiesības. Izmantojot iemeslojošas attēlu datus, Nightshade izraisa traucējumus modeļiem, kas apstrādā neatļautu saturu. Šis rīks minimizē redzamas izmaiņas oriģinālajā attēlā cilvēka acīm, vienlaikus maldinot AI modeli. Piemēram, cilvēkam attēls var šķist kā apžilbināts attēls ar govs attēlu zaļā laukā, bet AI modelis to var interpretēt kā soma, kas guļ zālē.
Nightshade komandā ir iekļauti Universitātes Čikāgas doktorantūras studenti Šons Šans, Venksins Dings un Džozefīne Pasananti, kā arī profesori Hetere Džengs un Bens Zahao. Viņi ir detalizēti aprakstījuši Nightshade detaļas pētījuma rakstā, kas publicēts 2023. gada oktobrī. Nightshade izmanto tehnisko paņēmienu, kas ir specifisks jautājumam noteikta veida apmānības uzbrukumam, kas nozīmē, ka attēli ir apzināti manipulēti, lai izpludinātu to īsto marķējumu robežas laikā, kad modeļš tiek mācīts.
Nightshade ieviešana ir atbilde uz augošo bažu par datu neatļauto savākšanu, kas ir novedusi pie vairākiem juridiskiem strīdiem starp saturveidotājiem un mašīnmācības uzņēmumiem. Pētnieki argumentē, ka Nightshade var kļūt par spēcīgu instrumentu saturs īpašniekiem aizsargāt savu intelektuālo īpašumu no modeļu apmācītājiem, kas ignorē autortiesību paziņojumus un citus atļauju veidus.
Ir svarīgi atzīmēt, ka Nightshade ir ierobežojumi. Šī programma var rezultēt nelielām atšķirībām no oriģinālā attēla, it īpaši, ja mākslas darbs ir veidots ar plakanām krāsām un viendabīgiem foniem. Turklāt nākotnē var tikt izstrādāti metodes, lai pretotos Nightshade, bet pētnieki uzskata, ka viņi var pielāgot savu programmatūru atbilstoši tam.
Komanda iesaka māksliniekiem izmantot arī Glaze, apvienojumā ar Nightshade, lai aizsargātu savas vizuālās stilistikas. Kamēr Nightshade koncentrējas uz attēlu datiem, Glaze maina attēlus, lai novērstu modeļus atkārtot mākslinieka vizuālo stilu. Izmantojot abus rīkus, mākslinieki var aizsargāt gan satura, gan stila sastāvdaļas savā darbā, tādējādi uzturot savu zīmola reputāciju un novēršot neatļautu savu māksliniecisko identitāti atveidošanu.
Lai gan pašlaik Nightshade un Glaze prasa atsevišķus lejupielādes un instalēšanas procesus, komanda strādā pie kopējas versijas izstrādes, lai vienkāršotu saturveidotāju procesu.
Nightshade bieži uzdotie jautājumi:
J: Kas ir Nightshade 1.0?
A: Nightshade 1.0 ir iemeslojošs datu apmānību rīks, ko izstrādājuši Universitātes Čikāgas pētnieki, lai apkautu neatļauto mašīnmācības modeļu izmantošanu.
J: Kāda ir Nightshade mērķis?
A: Nightshade ir izstrādāts, lai spiestu mašīnmācības modeļus ievērot saturveidotāju tiesības, piesārņojot attēla datus un radaot traucējumus modeļiem, kas apstrādā neatļautu saturu.
J: Kā darbojas Nightshade?
A: Nightshade mazina redzamas izmaiņas oriģinālajā attēlā, vienlaikus maldinot AI modeļus. Tas manipulē ar attēlu datiem tā, ka cilvēki var to uztvert kā kaut ko, bet AI modeļi to var interpretēt savādāk.
J: Kas ir Nightshade izstrādātājs?
A: Nightshade komandā ietilpst doktorantūras studenti Šons Šans, Venksins Dings un Džozefīne Pasananti, kā arī profesori Hetere Džengs un Bens Zahao no Universitātes Čikāgas.
J: Vai Nightshade ir pētnieciskais raksts?
A: Jā, pētnieki ir publicējuši pētniecisko rakstu, kas detaļās apraksta Nightshade, oktobrī 2023. gadā.
J: Kas ir jautājuma specifiska apmānības uzbrukuma tehnika?
A: Nightshade izmanto jautājuma specifisku apmānības uzbrukuma tehniku, lai manipulētu ar attēliem, izpludinot to īsto marķējumu robežas modeļa mācīšanās laikā.
J: Kādu problēmu mēģina atrisināt Nightshade?
A: Nightshade ir radīts kā atbilde uz bažām par neatļauto datu ievākšanu, kas ir izraisījis juridiskas strīdus starp saturveidotājiem un mašīnmācības uzņēmumiem.
J: Kādi ir Nightshade ierobežojumi?
A: Nightshade var rezultēt nelielās atšķirībās no oriģinālā attēla, it īpaši, ja ir lietoti plakanu krāsu darbi ar viendabīgiem foniem. Turklāt nākotnē var tikt izstrādātas metodes, lai pretotos Nightshade.
J: Kas ir Glaze?
A: Glaze ir aizsardzības rīks, kas darbojas kopā ar Nightshade. Tas maina attēlus, lai novērstu modeļiem atkārtot mākslinieka vizuālo stilu.
J: Kā mākslinieki var aizsargāt savu darbu ar Nightshade un Glaze?
A: Izmantojot Nightshade un Glaze kopā, mākslinieki var aizsargāt gan satura, gan stila sastāvdaļas savā darbā, uzturot savu zīmola reputāciju un novēršot neatļautu atveidošanu.
Definīcijas:
1. Mašīnmācības modeļi: Algoritmi un statistiskie modeļi, kas ļauj datoriem mācīties un veikt prognozes vai lēmumus, nevis iepriekš programmēti.
2. Datu apmānība: Tehnika, kurā ļaunprātīgi klienti manipulē ar datiem, lai maldinātu mašīnmācības modeļus un izraisītu nepareizus rezultātus.
3. Saturveidotāji: Indivīdi vai organizācijas, kas ražo oriģinālos mākslas, literatūras, mūzikas darbus u. c.
4. Autora tiesību paziņojumi: Izrādījumi, kas norāda konkrēta darba īpašumtiesības un aizsargāti izmantošanu, novēršot neatļauto izmantošanu vai atveidošanu.
Ieteiktie saistītie saiti:
1. Universitātes Čikāgas ziņas
2. The Register
The source of the article is from the blog qhubo.com.ni