Yapay zeka (YZ) teknolojisinin ilerlemesi, çeşitli endüstrilerde birçok fayda ve ilerlemeyi beraberinde getirmiştir. Ancak bu ilerlemeyle birlikte, yapay zekanın karanlık yüzü de ortaya çıkmıştır. Çocuk güvenliği uzmanları ve araştırmacılar, çevrimiçi istismarı kötüleştirebilecek potansiyel riskler konusunda uyarıda bulunmaktadır.
ABD Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi’ne (NCMEC) göre, geçen yıl çocuk cinsel istismarı içeren YZ tarafından oluşturulan içerikle ilgili 4700 rapor bulunmaktadır. Bu endişe verici rakam, YZ teknolojisinin gelişmeye devam etmesiyle birlikte büyümesi beklenen bir sorunun ortaya çıktığını göstermektedir.
NCMEC henüz 2023 yılında tüm kaynaklardan aldığı çocuk istismarı içeriği raporlarının toplam sayısını açıklamamış olsa da, organizasyon yalnızca 2022 yılında yaklaşık 88.3 milyon dosya aldığını açıklamıştır. Bu raporlar, üretilen YZ şirketlerinden, çevrimiçi platformlardan ve böyle rahatsız edici içerikle karşılaşan bireylerden gelmektedir.
Bu soruna acil olarak çözüm bulma ihtiyacını tanıyan NCMEC, çocuk istismarı içeriğini kolluk kuvvetlerine bildirmekte ulusal bir aracı görevi üstlenmektedir. NCMEC’nin kıdemli başkan yardımcısı John Shehan, YZ aracılığıyla gerçekleşen çocuk istismarının tartışmasız olduğunu vurgulamıştır.
Meta Platforms, X, TikTok, Snap ve Discord’un CEO’ları, çevrimiçi çocuk güvenliği üzerine odaklanan bir Senato’ya dinlenmek üzere çağrıldı. Yasama organı üyeleri, bu sosyal medya ve mesajlaşma şirketlerine çocukları online tehditlerden koruma çabaları hakkında sorular yöneltmiştir.
Stanford İnternet Gözleme Komitesi araştırmacıları Haziran ayında yayımladıkları bir raporda, kötü niyetli kişilerin üreten YZ kullanarak gerçek çocukları andıran yeni görüntüler oluşturma potansiyeline dikkat çekmişlerdir. Bu YZ üretilen materyaller giderek foto-realistik hale geldikçe, gerçek mağdurlar ile YZ yaratımları arasında ayrım yapmak önemli bir zorluk olarak ortaya çıkmaktadır.
Bu büyüyen sorunla mücadele etmek için popüler ChatGPT’nin arkasındaki OpenAI, raporları NCMEC’ye iletmek için bir sistem oluşturmuştur. Ayrıca, NCMEC ile diğer üreten YZ şirketleri arasında benzer önlemler kurulması konusunda görüşmeler devam etmektedir.
YZ’nin yükselişi hem yenilikler hem de sorumluluklar getirmektedir. Toplum YZ teknolojisini benimserken, özellikle çocuklar olmak üzere savunmasız bireylerin refahını korumak için ortaya çıkan endişeleri ele almada dikkatli olmak son derece önemlidir.
Sıkça Sorulan Sorular:
S: YZ’nin karanlık yüzü nedir?
C: YZ’nin karanlık yüzü, yapay zeka teknolojisinin özellikle çevrimiçi istismarı kötüleştirmesi potansiyel risklerini ve olumsuz sonuçlarını ifade eder.
S: Geçen yıl YZ tarafından üretilen çocuk cinsel istismarı içerikleriyle ilgili kaç rapor vardı?
C: NCMEC’ye göre, geçen yıl YZ tarafından üretilen çocuk cinsel istismarı içerikleriyle ilgili 4700 rapor vardı.
S: NCMEC 2022 yılında çocuk istismarı içerikleriyle ilgili kaç dosya aldı?
C: NCMEC, 2022 yılında yaklaşık 88.3 milyon dosya çocuk istismarı içeriğiyle ilgili aldı.
S: NCMEC’nin bu sorunu ele almada rolü nedir?
C: NCMEC, çocuk istismarı içeriklerini kolluk kuvvetlerine bildirmek için ulusal bir bildirim merkezi olarak önemli bir rol oynamaktadır.
S: Hangi sosyal medya ve mesajlaşma şirketleri çevrimiçi çocuk güvenliği konusunda soruşturma altında kaldı?
C: Meta Platforms, X, TikTok, Snap ve Discord’un CEO’ları çevrimiçi çocuk güvenliği konusunda soruşturma altına alındı.
S: Stanford İnternet Gözleme Komitesi’nin raporu ne hakkında bilgi vermektedir?
C: Stanford İnternet Gözleme Komitesi’nin raporu, kötü niyetli kişilerin üreten YZ kullanarak gerçek çocukları andıran yeni görüntüler oluşturma potansiyeline dikkat çekmektedir.
S: OpenAI ve diğer üreten YZ şirketleri bu sorunla mücadele etmek için hangi önlemleri almıştır?
C: OpenAI, raporları NCMEC’ye iletmek için bir sistem oluşturmuştur ve NCMEC ile diğer üreten YZ şirketleri arasında benzer önlemler kurmak için görüşmeler devam etmektedir.
Tanımlar:
– YZ (Yapay Zeka): Makinelerin tipik olarak insan zekasını gerektiren görevleri gerçekleştirmesini sağlayan teknoloji.
– Çocuk istismarı içeriği: Çocuk cinsel istismarı veya istismarını betimleyen içerik.
– Üreten YZ: Görüntü veya metin gibi yeni veri veya içerik oluşturma yeteneğine sahip yapay zeka.
– NCMEC (Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi): Çocuk kaçırılmasını, çocuk cinsel istismarını önlemeye ve kayıp çocukları bulmaya odaklanan ulusal bir kuruluş.
– Sosyal medya ve mesajlaşma şirketleri: Kullanıcıların diğerleriyle bağlantı kurmak, iletişim kurmak ve içerik paylaşmak için çevrimiçi platformlar ve hizmetler sunan şirketler.
Önerilen ilgili bağlantılar:
Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi
OpenAI
Stanford Üniversitesi
The source of the article is from the blog zaman.co.at