Yapay zeka teknolojisinin hızlı ilerlemesi topluma hem olumlu hem de olumsuz etkiler getirmiştir. Son dönemde ortaya çıkan endişe verici bir trend ise öğrencilerin çıplak resimler oluşturmak için yapay zeka (AI) uygulamalarını kullanmasıdır. Bir hükümet raporu, çocukların bu uygulamaları sadece indirme kalmayıp aynı zamanda resimleri yasadışı olarak arkadaşlarıyla paylaştığını ortaya koymuştur. Ayrıca, örgütlü suç çeteleri bu uygulamalardan yararlanarak çocukları bilgisayar tarafından üretilmiş açık resimlerle şantaj yapmaktadır.
İnternet Güvenlik Konseyi tarafından hazırlanan rapor, öğrencilerin açık resimleri paylaşma sorununu ele almak için öğretmenlere rehberlik sağlamaktadır. Rapor, AI ile oluşturulan resimlerin, derin taklitlerin ve “sextortion” (cinsel sömürü tehdidi) vakalarının geleneksel çıplak resimlerle aynı ciddiyetle ele alınması gerektiğini vurgulamaktadır. Bunlar arasında resimleri görüntülemekten veya silmekten kaçınmak, hemen yetkililere başvurmak ve belirli durumlarda ebeveynlere bilgi vermemek bulunmaktadır.
Kampanyacılar ve uzmanlar bu rehberliği olumlu karşılasa da Ofcom gibi düzenleyici kurumlar tarafından daha sıkı önlemler alınması gerektiği yönünde çağrılar yapılmaktadır. Eleştirmenler, AI çıplaklarının yayılmasını engellemek için daha proaktif ve kapsamlı bir yaklaşımın gerekliliğini savunmaktadır.
Günümüzde, yetişkinlerin rızası olmadan derin taklit pornoları veya AI çıplak resimlerini paylaşmak yasadışıdır. Ancak, yetişkinlerin AI çıplaklarını oluşturması yasaldır. Öte yandan, yasalar net bir şekilde çocukların, AI ile oluşturulmuş fotoğraflar da dahil çıplak veya cinsel fotoğrafların oluşturulmasını, sahip olunmasını ve paylaşılmasını suç saymaktadır zira bu çocuk cinsel istismarı olarak değerlendirilmektedir.
AI çıplak-yapma uygulamalarına erişimin kolaylaşması kadın ve kızların sanal olarak sömürülmesinde artışa neden olmuştur. Durham Üniversitesi’nden Profesör Clare McGlynn, bu konuda iki ana senaryoyu tanımlamıştır: genç erkeklerin bu uygulamaları kullanarak dişi sınıf arkadaşlarının sahte çıplaklarını oluşturması ve paylaşması, ve örgütlü dolandırıcıların derin taklit çıplaklarını üretip bunları şantaj malzemesi olarak kullanması. Profesör McGlynn, bu konuda daha fazla farkındalığa ihtiyaç olduğunu vurgulamakta ve mağdurları suçlama veya yargılama korkusu olmaksızın deneyimlerini bildirmeye teşvik etmektedir.
Hükümet raporu, AI uygulamalarının neden olduğu “sextortion” (cinsel sömürü tehdidi) vakalarında önemli bir artışı kabul ederken, çevrimiçi güvenliğe olan taahhüdünü de kamuoyuna belirtmektedir. Bir hükümet sözcüsüne göre, Çevrimiçi Güvenlik Kanunu çocuklar için güçlü korumalar sunmakta ve rıza olmadan derin taklit mahrem resimlerin paylaşımını yasaklamaktadır. Sosyal medya platformları, yasadışı içeriklerin yayılmasını önlemek için yeni sorumluluklar almış ve olası cezalar milyarlarca sterline ulaşmaktadır.
Bu gelişmeler ışığında, bu konuyu ele almak için olası önlemler hakkında tartışmalar yapılmaktadır. İşçi Partisi’nin gölge bilim sekreteri Peter Kyle, çıplaklaştırma uygulamalarını ve derin taklit teknolojisini yasaklamayı düşündüğü bildirilmektedir. Internet Watch Foundation’ın CEO’su Susie Hargreaves, AI teknolojisinin suçluların elinde oluşturduğu ciddi tehdidi vurgulamakta ve çocukları sömürüye ve cinsel istismara karşı koruma yönünde kolektif eylem çağrısında bulunmaktadır.
