Chicago Üniversitesi’nden bir grup araştırmacı, machine learning modellerinin izinsiz kullanımıyla mücadele etmek için geliştirilen bir keskinleştirme veri zehirleme aracı olan Nightshade 1.0’ı başlattı. Bu araç, daha önce The Register tarafından ele alınan defansif bir koruma aracı olan Glaze ile birlikte çalışır.
Nightshade özellikle görüntü dosyalarını hedef alacak şekilde tasarlanmıştır ve makine öğrenme modellerinin içerik oluşturucuların haklarına saygı göstermesini sağlamayı hedefler. Görüntü verisini zehirleyerek Nightshade, izinsiz içeriği tüketen modellere karşı kesintiler yaratır. Bu araç, insan gözüne orijinal görüntüye göre az farklılık yaratırken yapay zeka modellerini kafa karıştırır. Örneğin, bir insan için bir inek resmi veya yeşil bir alanda bulunan gölge şeklinde görünebilir ancak bir yapay zeka modeli, bunu çimlerin üzerine düşmüş bir çanta olarak yorumlayabilir.
Nightshade’in arkasındaki ekip, Chicago Üniversitesi’nden doktora öğrencileri Shawn Shan, Wenxin Ding ve Josephine Passananti ile profesörler Heather Zheng ve Ben Zhao’dan oluşuyor. Ekim 2023’te yayımlanan bir araştırma makalesinde Nightshade’in ayrıntılarını açıkladılar. Nightshade’de kullanılan teknik, model eğitimi sırasında gerçek etiketlerin sınırlarını bulanıklaştırmak için görüntülerin kasıtlı olarak manipüle edildiği özel bir zehirleme saldırısıdır.
Nightshade’in tanıtımı, veri izinsiz toplamanın yol açtığı büyüyen endişeye bir yanıttır ve bu durum içerik oluşturucular ile yapay zeka işletmeleri arasında birçok yasal mücadeleye neden olmuştur. Araştırmacılar, Nightshade’in telif bildirimlerini ve diğer izin türlerini göz ardı eden model eğiticilerinden geleneksel olarak koruma sağlamayan içerik oluşturucuları için güçlü bir araç olabileceğini savunuyor.
Nightshade’in bazı sınırlamalarının olduğunu belirtmek önemlidir. Özellikle düz renklere ve pürüzsüz arka planlara sahip sanat eserleri için orijinal görüntüden hafif farklılıklara neden olabilir. Ayrıca, Nightshade’i karşı etkileyecek yöntemler gelecekte geliştirilebilir, ancak araştırmacılar yazılımlarını buna göre adapte edebileceklerine inanıyor.
Ekip, sanatçıların görsel stillerini korumak için Nightshade’in yanı sıra Glaze’i birlikte kullanmalarını öneriyor. Nightshade görüntü verisine odaklanırken, Glaze, modellerin bir sanatçının görsel stilini çoğaltmasını engelleyecek şekilde görüntüleri değiştirir. İçeriğin ve stili koruyarak, sanatçılar marka itibarlarını sürdürebilir ve sanatsal kimliklerinin izinsiz çoğalmasını önleyebilirler.
Şu an için Nightshade ve Glaze ayrı indirmeler ve kurulumlar gerektirse de, ekip içerik oluşturucular için süreci kolaylaştırmak için birleşik bir versiyon geliştirmek üzerinde çalışıyor.
Nightshade SSS:
S: Nightshade 1.0 nedir?
C: Nightshade 1.0, Chicago Üniversitesi’nden araştırmacılar tarafından geliştirilen bir keskinleştirme veri zehirleme aracıdır ve makine öğrenme modellerinin izinsiz kullanımıyla mücadele etmek için tasarlanmıştır.
S: Nightshade’in amacı nedir?
C: Nightshade, görüntü verisini zehirleyerek makine öğrenme modellerinin içerik oluşturucuların haklarına saygı göstermesini sağlamak için tasarlanmıştır ve izinsiz içeriği tüketen modellere karşı kesintiler yaratır.
S: Nightshade nasıl çalışır?
C: Nightshade, görüntüdeki görünür değişiklikleri minimize ederken yapay zeka modellerini kafa karıştırır. İnsanlar tarafından bir şey olarak algılanabilen bir şekilde görüntü verisini manipüle ederken yapay zeka modelleri bunu farklı şekilde yorumlayabilir.
S: Nightshade’i kim geliştirdi?
C: Nightshade’in arkasındaki ekip, Chicago Üniversitesi’nden doktora öğrencileri Shawn Shan, Wenxin Ding ve Josephine Passananti ile profesörler Heather Zheng ve Ben Zhao’dan oluşuyor.
S: Nightshade hakkında bir araştırma makalesi var mı?
C: Evet, araştırmacılar Nightshade’in ayrıntılarını içeren bir araştırma makalesi yayımlamışlardır.
The source of the article is from the blog karacasanime.com.ve