The Guardian tarafından yapılan son bir araştırma, platformlarını düzenlemek için yapay zeka (YZ) yazılımına güvenen sosyal medya şirketlerinin, çocuk cinsel istismar vakalarıyla ilgili olanaklı olmayan raporlar ürettiğini ortaya koymuştur. Bu durum, Amerika Birleşik Devletleri’ndeki polis soruşturmalarını engellemekte ve potansiyel saldırganların tespit edilmesinde gecikmelere yol açmaktadır. Bu şirketler yasal olarak platformlarında tespit edilen herhangi bir çocuk cinsel istismar materyalini Kayıp ve İstismar Edilen Çocuklar Ulusal Merkezi’ne (NCMEC) bildirmekle yükümlüdür, ardından NCMEC bu bilgileri ilgili kanun uygulama birimlerine iletmektedir.
2022 yılında NCMEC, şüpheli çocuk cinsel sömürüsüyle ilgili 32 milyondan fazla rapor aldı ve en fazla rapor sunan şirket Meta idi ve toplamda 27 milyondan fazla rapor gönderdi. Ancak, YZ tarafından üretilen raporların kullanımı kanun uygulaması için önemli bir zorluk oluşturmaktadır. Dördüncü değişiklik gereğince, yetkililer ve NCMEC, bir arama emri olmadan raporları açma yetkisine sahip değildirler, ancak sosyal medya şirketinin bir çalışanı içeriği incelememişse. Bu yasal gereklilik, haftalarca süren gecikmelere neden olmuş ve potansiyel kanıtların kaybolmasına ve saldırganların daha uzun süre tespit edilememesine yol açmıştır.
Çocuk güvenliği uzmanları ve avukatlar, bu gecikmelerin toplum güvenliği üzerindeki olumsuz etkisinden endişe duymaktadır. Soruşturmalar durmuş durumda ve kanun uygulaması, potansiyel kurbanları korumak için anında harekete geçememektedir. Bazı durumlarda, sosyal medya şirketleri bir rapor sunumundan sonra kullanıcı hesaplarını devre dışı bırakabilmekte ve bu da sunucularından önemli kanıtların kaldırılmasına yol açabilmektedir.
YZ tarafından üretilen ipuçları genellikle soruşturulmaz çünkü bir arama emri için olası bir sebep şüphesini elde etmek için gerekli olan belirli bilgilere sahip değillerdir. Bu durum, zaten üzerinde büyük bir yük olan kanun uygulama birimlerine ek bir yük getirmekte ve bu ipuçlarını önceliklendirmek için gerekli kaynaklara sahip olmamaktadırlar.
İçerik düzenlemesinde YZ’ye dayanma, uzmanlar tarafından yetersiz bir çözüm olarak görülmektedir. YZ, kanun uygulama görevlilerinin iş yükünü hafifletebilirken, insan müdahalesi ihtiyacını asla karşılayamaz. Massachusetts merkezli bir savcının belirttiği gibi, YZ yeni çocuk istismarı materyalini tanımlayamayabilir ve yalnızca mevcut veri noktalarını analiz edebilir. Bu hassas durumlarla ilgilenirken insan gözden geçirmenin önemi göz ardı edilemez.
Mevcut durum, YZ moderasyonunun etkinliği ve çevrimiçi çocuk cinsel istismar sorununun üstesinden gelmek için kanun uygulama birimlerine artırılmış kaynaklar ve destek sağlama ihtiyacı konusunda endişeleri beraberinde getirmiştir.
The source of the article is from the blog meltyfan.es