Kevin TopolskyAraştırmacılar Zararlı İmajları Kaldırdı
Yapay zeka alanındaki araştırmacılar, yapay zeka görüntü oluşturma araçlarını eğitmek için kullanılan iyi bilinen bir veri kümesinde çocuk cinsel istismarını tasvir eden 2000’den fazla imaj içeren bağlantıları kaldırarak kararlı bir adım attı.
Telegram Kanalında Sürekli Haberler
Associated Press’ten yapılan son bir rapora göre önde gelen yapay zeka görüntü oluşturucular için bir kaynak olan “Lion Araştırma Veritabanı’nın” çevrimiçi imajlar ve işaretlemeleri barındıran geniş bir endeks, çocuk cinsel istismarı imajlarının açık bağlantılarını içerdiği tespit edildi.
Kötüye Kullanımı Önlemeye Yönelik Alınan Tedbirler
Geçen yıl Stanford Internet Gözlemi tarafından yapılan bir çalışma, “Lion” veri tabanında çocuk cinsel istismarı imajlarının açık bağlantılarının varlığını vurgulayarak bazı yapay zeka araçlarının gerçekçi sahte çocuk imajları üretmesine olanak tanıdı.
Daha Güvenli Bir Gelecek İçin İşbirliği Çabaları
Bu bulgulara yanıt olarak, “Lion” araştırma veritabanı hızla veri setini kaldırdı. Stanford Üniversitesi ve Kanada ile İngiltere’deki anti sömürü örgütleri ile işbirliği içinde çalışarak, “Lion” sorunu düzeltmek ve gelecekteki yapay zeka araştırmaları için revize bir veri seti sunmak için çaba sarf etti.
Önümüzdeki Zorlukları Ele Alma
Önemli iyileştirmelerin farkında olmakla birlikte, hala zararlı çocuk imajları üretebilen “kirlenmiş modellerin” kaldırılması için ek adımlar atılması gerekmektedir. Çevrimiçi olarak çocukların güvenliğinin ve refahının sağlanması için çabalar devam etmektedir.
Endüstri Sorumluluğu ve Sorumluluğu
“Lion” veri setine bağlantılı olan yapay zeka araçlarından biri, “açık imajlar üretmek için en popüler model” olarak tanımlanmış ve New York merkezli bir şirket tarafından yapay zeka model havuzundan kaldırılmıştır. Şirket, yapay zeka araştırmalarında etik standartların aktif bir şekilde korunmasının önemini vurgulamıştır.
Çocukları korumak amacıyla teknoloji kötüye kullanımı sorunlarının ele alınması uluslararası platformda dikkate alınmalıdır, süregelen raporlar ve araştırma çabalarında vurgulanmaktadır.
