Bir Rus operasyonu, Fransız Devlet Başkanı Emmanuel Macron’un hükümetine karşı liberal politikalar hakkında anlatı şekillendirmede yapay zeka kullandı. Bir sohbet botuna muhafazakar bir tavırı olan içerik üretme komutu, gbgeopolitics.com’da yayınlanan makalelerde kazara görünür kaldı. Jeopolitik bir odaklanmaya sahip olan site, “ABD Haberleri” ve “Gazze’deki Savaş” gibi bölümlere sahipti. Gerçek gibi görünse de site, Batı halkının duygularını etkilemeyi amaçlayan daha büyük bir makinenin bir dişlisiydi.
IT güvenlik firması Recorded Future tarafından yapılan araştırmalara göre, Şubat veya Mart civarında kurulan gbgeopolitics.com, özel siyasi anlatıları teşvik eden birçok yapay zeka ürünü içeren makalelere ev sahipliği yaptı. Bu anlatılar genellikle ABD Demokrat Partisi politikalarını eleştirmeye yönelik, Cumhuriyetçi ve Rus destekçiliğini yüceltmeye yönelik ve NATO ittifakına ve Amerikan politikacılara karşı eleştirel bir tavır almayı içeriyordu.
Bu etki kampanyasına bağlı siteler ağı, teknik ve içerik benzerlikleri olan en az bir düzine çevrimiçi dergiyi içeriyordu. “The Boston Times” ve “The British Chronicle” gibi yayınlar, hedef kitlelerini ABD, İngiltere ve Fransa olarak belirtti.
2016’da Florida’nın polis memurları hakkında gizli bilgileri ifşa ettikten sonra Rusya’ya kaçan eski bir Amerikan polis memuru olan John Mark Dougan, “BadVolf” takma adını kullanan kişi, bu çabalarla bağlantılı olabilir. Dougan ile DC Weekly web sitesi arasında ve Copycop ağındaki diğer siteler arasındaki iddialı bağlantılar keşfedildi, hepsi ağın Rus hükümetine veya daha büyük bir yanıltma grubuna aidiyetini gösterebilir.
“Doppelgänger” olarak bilinen kampanya, aldatıcı içeriklerin yayılması için çeşitli kurumsal Avrupa medya platformlarını taklit ediyordu. Bununla birlikte, Copycop ağı daha az profesyonel görünüyordu ve denetimden kaynaklanan, belki de otomatik süreçler tarafından komplike edilen yapay zeka ve politik nedenlerini yanlışlıkla açığa çıkarıyordu.
Rus bir varlık tarafından kullanılan bir etki kampanyasında olduğu gibi AI sohbet botlarının kullanımıyla ilgili en önemli sorulardan biri şudur:
Rus bir varlık tarafından kullanılan bir etki kampanyasında olduğu gibi AI sohbet botlarının kullanımıyla ilgili en önemli sorulardan biri şudur:
Toplumların ve hükümetlerin AI destekli yanıltma kampanyalarının tespit edilmesi ve karşı tedbirler alınması nasıl sağlanabilir?
Yanıt: AI destekli yanıltma kampanyalarının tespit edilmesi ve önlenmesi için teknolojik çözümlerin, medya okuryazarlığı programlarının ve düzenleyici tedbirlerin bir kombinasyonu gerekmektedir. AI ve makine öğrenme, bot etkinliğini veya sentetik metin üretimini gösteren desenleri ve anormallikleri tanımlamak için kullanılabilir. Sosyal medya platformları, siber güvenlik firmaları ve hükümet kurumları arasındaki iş birliği, istihbarat paylaşımı ve tehditleri azaltmak için hayati öneme sahiptir. Ayrıca, halkı bilgilendirerek bilgi kaynaklarını eleştirel bir şekilde değerlendirmeyi öğretmek, yanıltıcı içeriklere karşı toplumsal dayanıklılığın oluşturulması için esastır.
AI sohbet botlarının kamuoyunu etkileyen etki kampanyalarında bulunmasına ilişkin temel zorluklar veya tartışmalar şunlardır:
1. Yanıltıcı kampanyaların kökenini ve atfedilmesini belirlemek, genellikle proxy’lerin, VPN’lerin ve diğer anonimlik araçlarının kullanımıyla karmaşık hale gelmektedir.
2. Özgür ifade ihtiyacı ile yanlış veya aldatıcı bilgilerin yayılmasını önleme zorunluluğu arasındaki denge, özellikle demokratik toplumlarda.
3. Karşı tedbirlerin kişisel gizlilik haklarını ihlal etmemesi veya meşru içeriğin sansürlenmesine yol açmaması.
4. Sürekli olarak gelişen yapay zeka tarafından üretilen içeriğin karmaşıklığıyla başa çıkma, bu içeriği insan tarafından üretilen içerikten ayırmayı zorlaştırarak artmaktadır.
AI sohbet botlarının etki kampanyalarında kullanılmasının avantajları şunları içerebilir:
– Ölçeklenebilirlik: AI hızlı ve verimli bir şekilde büyük miktarda içerik üretebilir.
– Anonimlik: Botlar, operatörlerine doğrudan bir bağlantı olmadan çalışabilir, yanıltıcı bilginin kaynağını takip etmeyi zorlaştırır.
– Maliyet etkinliği: Bir AI sistemi geliştirildikten sonra, insan ajanlarına göre düşük maliyetle işleyebilir.
Bu yaklaşımın dezavantajları şunları içerebilir:
– Etik endişeler: Yapay zeka kullanarak yanlış bilgi yaymak etik olarak sorgulanabilir ve genel olarak yapay zekaya olan güveni zedeleyebilir.
– Potansiyel tepki: Keşfedilirse, bu tür operasyonlar diplomatik olaylara yol açabilir ve bir ülkenin uluslararası itibarına zarar verebilir.
– Doğruluk: Yapay zeka tarafından üretilen içerik yanlışlıkla hatalar içerebilir veya sentetik olduğu kolayca belirlenebilir, etkinliğini azaltabilir.
AI ve siber güvenlik hakkında daha fazla bilgi almak için Recorded Future web sitesini ziyaret edebilirsiniz.
Küresel jeopolitik gelişmeler hakkında ek içgörüler için Foreign Affairs web sitesini bilgilendirici bulabilirsiniz.