Yaratıcılar ve bilgisayar bilimcileri, telif haklarına sahip oldukları görüntülerin yapay zeka (YZ) programları tarafından kopyalanmasını engellemenin yeni bir yolunu keşfettiler. Chicago Üniversitesi’nde araştırmacılar tarafından geliştirilen Nightshade adlı bir aracı kullanarak yapay zeka modellerini manipüle edilmiş görüntülerle “zehirliyorlar”. İnsanlar değişiklikleri fark etmeyebilir ancak bunlar yapay zeka platformlarını şaşırtacak kadar önemlidir.
Karla Ortiz, tanınmış bir konsept sanatçısı ve illüstratör, işlerini izinsiz taranmaktan ve çoğaltılmaktan korumak için Nightshade kullanmayı benimseyen sanatçılardan biridir. “Star Wars” ve “Black Panther” gibi belirgin projelerde eserleri yer alan Ortiz, işlerinin izinsiz kullanımı konusunda endişelerini dile getirerek, bu durumlarda sanatçıların hak ettiği kredi ve tazminata sahip olmamasını vurgulamıştır.
Nightshade, yapay zeka modellerinin insanlardan farklı şekilde görüntüleri algıladığı gerçeğinden faydalanır. Lider araştırmacı Shawn Shan, makinaların görüntüleri sayı dizileri olarak algıladığını, piksel değerlerini temsil ettiklerini açıklar. Nightshade, binlerce pikselde ince değişiklikler yaparak yapay zekaya farklı görünen bozulmuş bir görüntü oluşturur.
Araç, yapay zeka sistemlerini şaşırtmak için istenilen konsepti otomatik olarak seçer. Örneğin, köpek fotoğraflarına uygulanan bir dizi ince bozulma, yapay zekanın onları kediler olarak algılamasına neden olabilir. Deneylerde, modelin algısını önemli ölçüde etkilemek ve beklenmeyen sonuçlar üretmek için yaklaşık 30 “zehirli” resim yeterli olmuştur.
Nightshade, belirli yapay zeka uygulamalarını etkisiz hale getirebilir, ancak Chicago Üniversitesi laboratuvarının sorumlu profesörü Ben Zhao, bunun genel olarak YZ görüntü üreticilerine ciddi bir tehdit oluşturacağını düşünmüyor. Aksine, sanatçıların işlerini uygun tazminat olmadan kullanmaktan caydırmak için bir yöntem olarak görüyor. Zhao, Nightshade’i ücretsiz olarak kullanıma açık tutmayı düşünüyor.
YZ alanında telif hakkı sahiplerinin içeriklerini korumak ve bunlardan çıkmak için mevcut seçenekler bulunmaktadır. Ancak YZ araçlarının yaygınlaşması, bu çabaların önünde kalmıştır ve ek çözümler gerektirmiştir. Nightshade, sağlam düzenlemeler olmaması durumunda önemli bir araç olarak işlev görmekte ve sanatçıların fikri mülkiyetlerini koruma konusundaki kararlılığını göstermektedir.
Nightshade, izinsiz kullanıma karşı geçici bir savunma sağlasa da, bazı uzmanlar, YZ geliştiricilerinin büyük ihtimalle bu tür saldırılara karşı önlemler geliştireceğini iddia etmektedir. Yapay zeka ve etik konularında profesör olan Sonja Schmer-Galunder, teknolojik savunmaların geliştirilmesinin Nightshade gibi araçların etkisini azaltacağını düşünmektedir.
Chicago Üniversitesi araştırmacıları, yapay zeka platformlarının sistemlerini güncelleyerek ve Nightshade’in görüntü zehirlenme tekniğine karşı önlem almalarının potansiyelini kabul etmektedir. Ancak Zhao, bireylerin haklarını koruma yükünün onlara bırakılmasının adil olmadığını vurgulamaktadır. Bu durumu, yayaylarının yolu geçerken sürücülere kendilerine çarpmamalarını bireysel olarak sormalarına benzetmektedir.
Buna rağmen, Nightshade gibi araçlarını işlerini korumak isteyen Karla Ortiz gibi sanatçılar için önemli bir araç olarak görmektedir. Ortiz, Nightshade’i izinsiz kullanımın sonuçları konusunda potansiyel ihlalcilere uyarmanın etkili bir yol olarak görmekte ve Stability AI ve DeviantArt gibi birkaç şirkete karşı telif hakkı ihlali iddiasında bulunan bir toplu dava sürecinde yer almaktadır.
YZ alanının gelişmeye devam etmesiyle, dijital çağda sanatçılar ve içerik oluşturucularının karşılaştığı zorlukları ele almak için düzenleme ve teknoloji geliştirme konusunda kapsamlı ve dengeli bir yaklaşımın gerekli olduğu etik endişeler devam etmektedir.