Ryhmä tutkijoita University of Chicagosta on julkaissut Nightshade 1.0:n, viimeisimmän offensiivisen datan myrkyttämistyökalun, joka on luotu torjumaan laittomien koneoppimismallien käyttöä. Tämä työkalu toimii yhdessä Glaze-nimisen puolustusmekanismin kanssa, josta on aiemmin raportoinut The Register.
Nightshade on erityisesti suunniteltu kohdistamaan hyökkäyksiä kuvatiedostoihin ja sen tarkoituksena on saada koneoppimismallit kunnioittamaan sisällöntuottajien oikeuksia. Myrkyttämällä kuvadataa, Nightshade aiheuttaa häiriöitä malleille, jotka käsittelevät luvatonta sisältöä. Työkalu minimoi näkyvät muutokset alkuperäisessä kuvassa ihmisen silmälle, samalla kun se hämmentää tekoälymalleja. Esimerkiksi kuva voi näyttää ihmiselle varjostetulta kuvalta lehmästä vihreällä niityllä, mutta tekoälymalli voi tulkita sen käsilaukuksi, joka lepää ruohikossa.
Nightshaden takana oleva tiimi koostuu University of Chicagon tohtoriopiskelijoista Shawn Shan, Wenxin Ding ja Josephine Passananti sekä professoreista Heather Zheng ja Ben Zhao. He ovat esitelleet Nightshaden yksityiskohdat tutkimusartikkelissaan, joka julkaistiin lokakuussa 2023. Nightshadessa käytettävä tekniikka perustuu prompt-kohtaiseen myrkytysiskuun, jossa kuvia manipuloidaan tarkoituksellisesti sumeuttamaan niiden todellisten tunnisteiden rajat mallien koulutuksessa.
Nightshaden kehittäminen on vastaus kasvavaan huoleen laittomasta datan keräämisestä, mikä on johtanut useisiin oikeudenkäynteihin sisällöntuottajien ja tekoälyyritysten välillä. Tutkijat väittävät, että Nightshade voi toimia tehokkaana työkaluna sisällön omistajille suojella immateriaalioikeuksiaan mallien kouluttajilta, jotka eivät piittaa tekijänoikeusilmoituksista tai muista luvista.
On tärkeää huomata, että Nightshadella on tiettyjä rajoituksia. Ohjelmisto voi aiheuttaa hienovaraisia eroja alkuperäiseen kuvaan, erityisesti teoksissa, joissa on tasaiset värit ja sileät taustat. Lisäksi tulevaisuudessa voidaan kehittää menetelmiä vastatoimiksi Nightshadelle, mutta tutkijat uskovat pystyvänsä sopeuttamaan ohjelmistoaan sen mukaisesti.
Tiimi ehdottaa, että taiteilijat käyttäisivät myös Glazea yhdessä Nightshaden kanssa suojatakseen visuaalista tyyliään. Vaikka Nightshade keskittyykin kuvadatan suojaamiseen, Glaze muuttaa kuvia estääkseen mallien jäljittelemästä taiteilijan visuaalista tyyliä. Suojattelemalla sekä sisältöä että tyylilajiaan taiteilijat voivat säilyttää brändimaineensa ja estää laittoman kopioinnin heidän taiteellisesta identiteetistään.
Vaikka Nightshade ja Glaze vaativat tällä hetkellä erilliset lataukset ja asennukset, tiimi työskentelee yhdistetyn version kehittämiseksi sisällöntuottajien prosessin virtaviivaistamiseksi.
Nightshade UKK:
K: Mikä on Nightshade 1.0?
V: Nightshade 1.0 on tutkijoiden kehittämä offensiivinen datan myrkyttämistyökalu, joka torjuu laitonta koneoppimismallien käyttöä.
K: Mikä on Nightshaden tarkoitus?
V: Nightshade on suunniteltu pakottamaan koneoppimismallit kunnioittamaan sisällöntuottajien oikeuksia myrkyttämällä kuvadataa ja aiheuttamalla häiriöitä malleille, jotka käsittelevät luvatonta sisältöä.
K: Miten Nightshade toimii?
V: Nightshade minimoi näkyvät muutokset alkuperäisessä kuvassa hämmentäen samalla tekoälymalleja. Se manipuloi kuvadataa siten, että ihminen voi nähdä sen yhtenä asiana, kun taas tekoälymalli tulkitsee sen toisin.
K: Kuka kehitti Nightshaden?
V: Nightshaden takana oleva tiimi koostuu University of Chicagon tohtoriopiskelijoista Shawn Shan, Wenxin Ding ja Josephine Passananti sekä professoreista Heather Zheng ja Ben Zhao.
K: Onko Nightshadesta julkaistu tutkimusartikkeli?
V: Kyllä, tutkijat ovat julkaisseet Nightshaden yksityiskohtia käsittelevän tutkimusartikkelin lokakuussa 2023.
K: Mikä on prompt-kohtainen myrkytysisku?
V: Nightshade hyödyntää prompt-kohtaista myrkytysiskumenetelmää manipuloidakseen kuvia mallien koulutuksen aikana ja sumetuttaakseen niiden todellisten tunnisteiden rajat.
K: Mihin ongelmaan Nightshade pyrkii ratkaisemaan?
V: Nightshade kehitettiin vastauksena huoleen laittomasta datankeruusta, joka on johtanut oikeustaisteluihin sisällöntuottajien ja tekoälyyritysten välillä.
K: Mitkä ovat Nightshaden rajoitukset?
V: Nightshade voi aiheuttaa hienovaraisia eroja alkuperäiseen kuvaan, erityisesti teoksissa, joissa on tasaiset värit ja sileät taustat. Tulevaisuudessa Nightshadelle voidaan myös kehittää vastatoimenpiteitä.
K: Mikä on Glaze?
V: Glaze on puolustusmekanismi, joka toimii yhdessä Nightshaden kanssa. Se muuttaa kuvia estääkseen mallien jäljittelemästä taiteilijan visuaalista tyyliä.
K: Kuinka taiteilijat voivat suojata työnsä Nightshadella ja Glazella?
V: Käyttämällä Nightshadea ja Glazea yhdessä taiteilijat voivat suojata sekä sisällön että tyylilajinsa, säilyttää brändimaineensa ja estää luvattoman kopioinnin.
Määritelmiä:
1. Koneoppimismallit: Algoritmeja ja tilastollisia malleja, jotka mahdollistavat tietokoneiden oppimisen ja ennustamisen tai päätösten tekemisen ilman nimenomaista ohjelmointia.
2. Datan myrkyttäminen: Tekniikka, jossa haitalliset toimijat manipuloivat dataa harhauttaakseen koneoppimismalleja ja saadakseen ne tuottamaan virheellisiä tuloksia.
3. Sisällöntuottajat: Yksilöt tai organisaatiot, jotka tuottavat alkuperäistä taidetta, kirjallisuutta, musiikkia jne.
4. Tekijänoikeusilmoitukset: Lausuntoja, jotka osoittavat tietyn työn omistajuuden ja oikeudet sekä varoituksen laittomasta käytöstä tai kopioinnista.
Ehdotetut liittyvät linkit:
1. University of Chicagon tiedotteet
2. The Register
The source of the article is from the blog foodnext.nl