Yapay zeka (AI) derin sahtekarlıklarının politik kampanyalara etkisi hakkındaki endişelerin büyüdüğü Hindistan’da seçim sezonuna yaklaşılmasıyla, sanal ve gerçekçi görüntüler ve videolar olan derin sahtekarlıkların daha yaygın ve sofistike hale geldiği gözlenmektedir. Politikacıların konuşmalarını ve görünümlerini manipüle edebilen derin sahtekarlıklar, seçmenler arasında şüphe ve güvensizlik duygusu yaratmaktadır.
Hindistan’da ucuz mobil veri ve yüksek akıllı telefon penetrasyonu ile, WhatsApp gibi platformlar aracılığıyla derin sahtekarlıkların yayılacağı ve seçmenlerin kararlarını etkileyebileceği veya oylarının önemini sorgulayabileceği endişeleri bulunmaktadır.
Bu endişeleri ele almak amacıyla, Hindistan Elektronik ve Bilişim Teknolojileri Bakanlığı yakın zamanda generatif AI şirketlerine bir tavsiye yayınladı. Tavsiye, bu şirketlerin hala test aşamasında veya güvenilir olmayan AI sistemleri sunuyorlarsa, bu şirketlerin hükümetten açıkça izin alması ve çıktıları etiketlemesi gerektiğini belirtiyor. Amaç, seçim sürecini zayıflatabilecek yasa dışı veya yanıltıcı içeriğin üretilmesini önlemektir.
Ancak, bu tavsiye, hem ulusal hem uluslararası AI oyuncularından ağır eleştirilerle karşılaştı. Birçok kişi, bu tavsiyenin yeniliği engellediğini ve ifade özgürlüğünü engellediğini iddia ediyor. Elektronikler ve Bilgi Teknolojileri Devlet Bakanı Rajeev Chandrasekhar, tavsiyenin start-up’lara uygulanmadığını açıkladı, bu da biraz rahatlama sağladı. Bununla birlikte, AI teknolojisinin kötüye kullanımı ile ilgili endişeler devam etmektedir.
Bu endişelere yanıt olarak, Muonium AI start-up’ın kurucusu Senthil Nayagam, seçimler öncesinde bir ‘Etik AI Koalisyon Beyannamesi’ oluşturdu. Bu manifestonun amacı, AI teknolojilerinin sorumlu bir şekilde kullanılmasını sağlamak ve seçimlere müdahale etmemek, yanlış bilgi yaymamak veya politik kurumlara olan halkın güvenini erozyona uğratmamak. Nayagam, yaklaşık 30 şirkete başvurdu, bunlardan ikisi manifestoyu imzaladı ve üçü de imza aşamasında.
Tüm AI yaratımları, rakipleri karalamak amacıyla yapılan sinsice derin sahtekarlıklar değildir. Kişiye özel etkileşimli telefon aramaları gibi bazı uygulamalar, seçim bütünlüğüne karşı bir tehdit değil, eğlencelikler olarak hizmet eder. Örneğin, Hindistan’daki siyasi partiler, bireysel seçmenlere isimleriyle hitap eden önceden kaydedilmiş mesajlar göndermek için sentezlenmiş sesleri kullanmıştır. Bu uygulamalar zararsız görünebilir ancak kötüye kullanım potansiyelini düşünmek önemlidir.
‘Hintli Deepfakeci’ olarak bilinen bir AI yaratıcısı olan Divyendra Singh Jadoun, video ve ses AI modellerini siyasi partilere özel mesajlar dağıtmak üzere eğitmiştir. Yasadışı tercümeler ve ölen liderlerin canlandırmaları gibi ‘etik’ AI yaratımları üzerinde çalıştığını iddia etmektedir, parti onayıyla. Bununla birlikte, derin sahteknolojisi daha erişilebilir hale geldikçe, partilerin kendi derin sahteknolojilerini ürettiklerini ve yanlış bilginin yayılmasının daha kolay hale geldiğini kabul etmektedir.
Karen Rebelo gibi alandaki uzmanlar, son zamanlardaki Hindistan eyalet seçimlerinde AI derin sahtekarlıklarında önemli bir artış olduğunu belirtiyor. Teknoloji daha ucuz ve erişilebilir hale gelmiştir, bu da herhangi bir bilgisayarı olan herkesin derin sahtekarlıklar oluşturmasına olanak tanır. Bu durum, derin sahtekarlıkların seçimlerin adil ve şeffaf olması üzerindeki potansiyel etkileri hakkında endişelere neden olmaktadır.
AI derin sahtekarlıklar endişe kaynağı olsa da, potansiyellerinin iyi amaçlarla kullanılabileceği de unutulmamalıdır. AI teknolojileri, engelli seçmenler için erişimi artırma veya politik konuşmaların doğru çevirilerini sağlama gibi demokratik süreci geliştirmede olumlu bir rol oynayabilir. Önemli olan, bu teknolojilerin etik ve sorumlu bir şekilde kullanıldığından emin olmaktır.
Hindistan önümüzdeki seçimlere hazırlanırken, hükümetin, AI şirketlerinin ve siyasi partilerin bir araya gelerek politik kampanyalarda AI’nın kullanımı için açık kurallar ve düzenlemeler oluşturmaları hayati önem taşımaktadır. Şeffaflığı, sorumluluğu ve seçim sürecinin bütünlüğünü öncelikli hale getirerek, Hindistan AI’nın potansiyelini kullanırken ortaya çıkardığı riskleri azaltabilir.
Derin sahtekarlıkların politik kampanyalara yönelik etkileri ve endişeler sadece Hindistan ile sınırlı değildir. Derin sahteknolojisinin kullanımı, çeşitli endüstriler ve pazarlar için sonuçları olan küresel bir sorun haline gelmiştir.
Derin sahteknolojisinin gelecek yıllarda önemli bir büyüme potansiyeline sahip olduğu tahmin edilmektedir. MarketsandMarkets tarafından yayınlanan bir rapora göre, küresel derin sahteknolojisi pazarının değeri 2026 yılında 304.3 milyon dolara ulaşması öngörülmektedir, 2021’den 2026’ya kadar %37.3’lük bir bileşik yıllık büyüme oranıyla büyümektedir. Bu pazar büyümesi, AI teknolojisinin artan kullanımı ve derin sahteknolojilerin artan farkındalığıyla ilişkilendirilebilir.
Derin sahteknolojisinin potansiyel etkileri siyasi kampanyalarla sınırlı değildir. Eğlence, siber güvenlik ve gazetecilik gibi endüstriler de derin sahteknolojisi ile ilgili sorunlarla karşı karşıyadır. Örneğin, eğlence sektöründe derin sahteknolojiler, aktörlerin görünümlerini manipüle etmek veya gerçekçi sanal avatarlar oluşturmak için kullanılabilir. Bu durum, gizlilik hakları, fikri mülkiyet hakları ve içeriğin otantikliği konularında endişelere neden olmaktadır.
Siber güvenlik alanında, derin sahteknolojiler ciddi bir tehdit oluşturur. Sahte videolar ve resimler, bireyleri kandırmak veya sistemlere izinsiz erişim sağlamak için kullanılabilir. Siber suçlular, inandırıcı dolandırıcılık saldırıları oluşturmak veya yasal süreçlerde dijital kanıtları manipüle etmek için derin sahteknolojilerden yararlanabilirler.
Gazetecilik başka bir şekilde derin sahteknolojilerden etkilenen bir sektördür. Yanlış bilginin yayılması ve kamunun güveninin erozyona uğraması, derin sahteknolojilerin yaşandığı çağda gazetecilerin karşı karşıya olduğu önemli zorluklardır. Haber kuruluşları, sağlam gerçekleri kontrol etme teknikleri geliştirmeli ve halkı içeriğin otantikliğini tespit etmeye ve doğrulamaya teşvik etmelidir.
Derin sahteknolojilerin büyüyen tehdidine yanıt olarak, negatif etkilerini sınırlamaya yardımcı olacak tespit yöntemleri geliştirmeyi amaçlayan Deepfake Tespit Mücadelesi (DFDC) gibi çeşitli girişimler ve organizasyonlar ortaya çıkmıştır. DFDC, derin sahteknolojileri tanımlamak için tespit yöntemleri geliştirmeyi hedeflemektedir ve bu da derin sahteknolojilerin yayılmasını sınırlamaya yardımcı olacaktır.
Derin sahteknolojilerin ele alınması görevi, sadece hükümet düzenlemeleri ve endüstri girişimleriyle sınırlı değildir. Bireylerin de derin sahteknolojilerin farkında olması ve tüketilen içeriğe dikkatli olması, paylaşması gerekmektedir. Bilgileri doğrulamak, kaynakları doğrulamak ve medya okur-yazarlığını teşvik etmek, derin sahteknolojilerin yayılmasıyla mücadelede temel adımlardır.
Derin sahteknolojilerle mücadele karmaşık bir görev olsa da, AI teknolojisindeki ilerlemeler, bu tür manipülasyonların tespit edilmesi ve etkilerinin azaltılmasına yardımcı olmak amacıyla geliştirilebilir. Makine öğrenme algoritmaları, videolar veya görüntülerdeki anormallikleri tanımlamak ve otantik ve manipüle edilmiş içerik arasında ayrım yapabilmek için eğitilebilir. Derin sahteknolojilerle ilgili zorlukların etkili bir şekilde ele alınmasında, teknoloji şirketleri, araştırmacılar ve politika yapıcılar arasında devam eden araştırma ve işbirliği kritiktir.
İlgili linkler:
– MarketsandMarkets Derin Sahteknolojisi Pazar Raporu
– Derin Sahteknolojilerin Tespiti
