Egy kutatócsoport a chicagói egyetemről bevezette a Nightshade 1.0-t, egy csúcstechnológiával rendelkező adatmérgező eszközt, amelyet a gépi tanulási modellek jogosulatlan használatával szemben alkottak. Ez az eszköz összevetésben működik a Glaze nevű védelmi eszközzel, amelyről korábban már beszámolt a The Register.
A Nightshade kifejezetten képfájlokat céloz meg, és célja, hogy a gépi tanulási modellek tiszteletben tartsák a tartalomkészítők jogait. A Nightshade a kép adatmérgezésével meghiúsítja azokat a modelleket, amelyek jogosulatlan tartalmat használnak. Az eszköz minimalizálja a látható változtatásokat a eredeti képhez képest emberi szem számára, miközben zavarba hozza az AI modelleket. Például egy kép emberek számára egy árnyékos tehénképként jelenhet meg egy zöld mezőn, míg egy AI modellként táskaként értelmezheti, amely a fűben hever.
A Nightshade mögött álló csapat tagjai közé tartoznak a chicagói egyetem doktori hallgatói: Shawn Shan, Wenxin Ding és Josephine Passananti, valamint a professzorok, Heather Zheng és Ben Zhao. Részletesen kifejtették a Nightshade részleteit egy október 2023-ban publikált kutatási cikkben. A Nightshade-ben alkalmazott technika egy prompt-specifikus mérgező támadás, amikor a képeket szándékosan manipulálják, hogy elmosódjanak azok valódi címkéinek határai a modellek képzése során.
A Nightshade bevezetése választ ad a jogosulatlan adatgyűjtés növekvő aggodalmára, amely több jogi csatához vezetett a tartalomkészítők és az AI vállalkozások között. A kutatók szerint a Nightshade erőteljes eszközként szolgálhat a tartalomtulajdonosok számára, hogy megvédjék szellemi tulajdonukat a képzők ellen, akik figyelmen kívül hagyják a szerzői jogi értesítéseket és egyéb engedélyeket.
Fontos megjegyezni, hogy a Nightshade-nek van néhány korlátja. A szoftver finom különbségeket tapasztalhat az eredeti képpel szemben, különösen plakátok, sima háttérrel rendelkező műalkotások esetében. Emellett a Nightshade elleni védekezési módszereknek is kifejlesztése történhet a jövőben, de a kutatók úgy vélik, hogy alkalmazkodni tudnak a szoftverükhöz.
A csapat azt javasolja, hogy a művészek használják a Glaze-t a Nightshade-dzal kombinálva, hogy megvédjék vizuális stílusukat. Míg a Nightshade a képadatokra fókuszál, a Glaze megváltoztatja a képeket annak érdekében, hogy a modellek ne tudják másolni az alkotók vizuális stílusát. A művészek így megőrizhetik munkájuk tartalmát és stílusát, megtartva saját márkás hírnevüket, és elrettentve jogosulatlan utánzást.
Bár a Nightshade és a Glaze jelenleg külön letöltéseket és telepítéseket igényelnek, a csapat dolgozik egy kombinált verzió kidolgozásán, hogy egyszerűsítse a tartalomkészítők számára a folyamatot.
Nightshade GYIK:
K: Mi az a Nightshade 1.0?
V: A Nightshade 1.0 egy offenzív adatmérgező eszköz, amelyet a chicagói egyetem kutatói fejlesztettek ki a gépi tanulási modellek jogosulatlan használata ellen.
K: Mi a Nightshade célja?
V: A Nightshade célja, hogy a gépi tanulási modellek tiszteletben tartsák a tartalomkészítők jogait, azáltal hogy mérgezi a kép adatokat és zavart okoz a jogosulatlan tartalmat használó modellek számára.
K: Hogyan működik a Nightshade?
V: A Nightshade minimalizálja a látható változtatásokat az eredeti képhez képest, miközben zavarba hozza az AI modelleket. A képadatokat oly módon manipulálja, hogy az emberek egy dolgot láthasnak benne, míg az AI modellek másként értelmezik.
K: Ki fejlesztette ki a Nightshade-t?
V: A Nightshade mögött álló csapatot a chicagói egyetem doktori hallgatói: Shawn Shan, Wenxin Ding és Josephine Passananti, valamint a professzorok, Heather Zheng és Ben Zhao alkotják.
K: Van kutatási cikk a Nightshade-ről?
V: Igen, a kutatók egy kutatási cikkben részletezték a Nightshade részleteit, amelyet 2023 októberében tettek közzé.
K: Mi a prompt-specifikus mérgező támadás?
V: A Nightshade egy prompt-specifikus mérgező támadás technikát használ, amely manipulálja a képeket a modellek képzése során, hogy azok valódi címkéik határait elmosódják.
K: Milyen problémát kíván megoldani a Nightshade?
V: A Nightshade-t az jogosulatlan adatgyűjtéssel kapcsolatos aggodalmak miatt fejlesztették ki, amely számos jogi vitát eredményezett a tartalomkészítők és az AI vállalkozások között.
K: Milyen korlátai vannak a Nightshade-nek?
V: A Nightshade finom különbségeket okozhat az eredeti képhez képest, különösen az egysíkú színekkel és sima háttérrel rendelkező műalkotások esetében. A Nightshade elleni védelemre szolgáló módszerek kifejlesztése is lehetséges a jövőben.
K: Mi az a Glaze?
V: A Glaze egy védelmi eszköz, amely a Nightshade-dzal együttműködik. Megváltoztatja a képeket annak érdekében, hogy a modellek ne tudják másolni egy művész vizuális stílusát.
K: Hogyan védhetik meg a művészek a munkáikat a Nightshade-dzal és a Glaze-zal?
V: A Nightshade és a Glaze együttes használatával a művészek megvédhetik munkájuk tartalmát és stílusát, megtartva saját márkás hírnevüket és elrettentve a jogosulatlan utánzást.
Meghatározások:
1. Gépi tanulási modellek: Algoritmusok és statisztikai modellek, amelyek lehetővé teszik a számítógépek számára, hogy tanuljanak és előrejelzéseket vagy döntéseket hozzanak anélkül, hogy kifejezetten programoznák őket.
2. Adatmérgezés: Technika, amelyben a rosszindulatú szereplők manipulálják az adatokat, hogy félretévesszék a gépi tanulási modelleket és helytelen eredményeket hozzanak létre.
3. Tartalomkészítők: Azok az egyének vagy entitások, akik eredeti műalkotásokat, irodalmat, zenét stb. hoznak létre.
4. Szerzői jogi értesítések: Az adott mű tulajdonjogára és jogaira vonatkozó nyilatkozatok, amelyek figyelmeztetnek a jogellenes felhasználás vagy másolás ellen.
The source of the article is from the blog agogs.sk