AI sohbetbotları, bir raporun ortaya koyduğu gibi sahte haberlerin ve yanıltıcı mesajların yayılması konusunda eleştiriye maruz kaldı. Axios’un belirttiğine göre, NewsGuard’ın araştırması, bu sohbetbotlarının yanıltıcı içerik aracılığıyla Rus propaganda yaydığını ortaya koydu. NewsGuard uzmanları tarafından gerçekleştirilen çalışma, Rusya’ya sığınma talebinde bulunan eski bir Amerikalı subay olan John Mark Dugan tarafından oluşturulan metinleri inceledi. Dugan’ın, Rus propaganda makinesi ile işbirliği içinde yanıltıcı haberler ürettiği ve yaydığı tespit edildi.
NewsGuard, 57 sorgu kullanarak on top sohbetbotunu test etti ve alarm verici sonuçlar elde etti. Sohbetbotlarının, genellikle güvenilir kaynaklar olarak yerel sahte web sitelerini göstererek, vakaların %32’sinde Rus sahte haberlerini paylaştığı belirlendi. Sahte hikayeler, eski Başkan Donald Trump’ın ikametindeki telefon dinlemelerinin keşfedildiği iddialarından Amerikan seçimlerine müdahale etmek amacıyla oluşturulan hayali Ukrayna “troll fabrikası” iddialarına kadar uzanmaktadır.
Çalışmada adı geçen platformlar arasında OpenAI’den ChatGPT-4, You.com’dan Smart Assistant, Grok, Inflection, Mistral, Microsoft’un Copilot’u, Meta AI, Anthropic’ten Claude, Google’ın Gemini’si ve Perplexity yer alıyordu. NewsGuard’ın ortak kurucularından Stephen Brill, haberleri ve bilgileri tüketirken dikkatli olmanın önemini vurgulayarak, bu sohbetbotlarının verdiği yanıtlara körü körüne güvenmekten kaçınma konusunda uyarıda bulundu.
Senatör Mark Warner’ın gelecek başkanlık seçimlerine yönelik yayılan yanlış bilgilerin yarattığı tehlikeleri vurguladığı göz önüne alındığında, yanlış bilgi yayılmasının olası etkileri konusunda endişeler dile getirilmektedir. Yanlış bilginin yayılmasına devam ederken, halkın görüşlerine ve siyasi sonuçlara olan etkisinden büyüyen korkular bulunmaktadır.
Yanlış bilgiyle mücadele etme çabalarına rağmen, son gelişmeler, ChatGPT gibi yapay zeka teknolojilerinin hala propaganda amaçlarıyla kötüye kullanıldığını göstermektedir. OpenAI, platformları aracılığıyla Rus propaganda yayılmasının izole vakalarını doğrulamış ve çeşitli ülkeler tarafından halkın görüşlerini manipüle etmeyi amaçlayan kampanyaları engellediklerini ortaya koymuştur.
Yanlış bilgiyle mücadelede yoğunlaşırken, sorumluluk hem teknoloji şirketlerine hem de kullanıcılara, özellikle seçim gibi önemli olaylar öncesinde çevrimiçi içerikle etkileşimde bulunurken dikkatli ve seçici olmak düşer.
Gerçekler:
1. AI Sohbetbotları ve Sosyal Medya: AI sohbetbotları, kullanıcılarla etkileşimde bulunmak ve bilgiyi yaymak için çeşitli sosyal medya platformlarında da kullanılmaktadır. Bu sohbetbotları bazen bu platformlarda yanlış bilginin ve sahte haberlerin yayılmasını artırabilir.
2. Deepfake Teknolojisi: Diğer bir endişe kaynağı da derin sahte teknolojisinin yanı sıra AI sohbetbotlarıyla birlikte kullanılmasıyla oluşturulan son derece gerçekçi ancak yanıltıcı içeriklerdir, bu da yanlış bilginin yayılması sorununu daha da karmaşık hale getirmektedir.
3. Etik Kurallar: AI sohbetbotlarının kullanımını düzenlemek, yanlış kullanımı ve yanlış bilginin yayılmasını önlemek için açık etik kurallar ve düzenlemelerin gerekliliği hakkında teknoloji topluluğu içinde devam eden bir tartışma bulunmaktadır.
Ana Sorular:
1. Yanlış bilginin yayılmasını önlemek için AI sohbetbotları nasıl daha iyi düzenlenebilir?
– Chatbot içerik oluşturucuları ve AI geliştiricileri için sıkı doğrulama süreçleri uygulamak
– Sahte haberleri ve propagandayı algılayıp elemek için AI algoritmaları geliştirmek
– Hesap verebilirliği artırmak için AI sohbetbotlarının işleyişinde şeffaflığı teşvik etmek
2. AI sohbetbotlarının yanıltıcı olmaktan kaçınmak için kullanıcılar neler yapabilir?
– Chatbotlardan gelen bilgileri saygın kaynaklarla karşılaştırmak
– Chatbotlar tarafından sağlanan sansasyonel ya da duygusal olarak yüklü içeriklere dikkat etmek
– Şüpheli veya yanıltıcı içerikleri ilgili kurum veya platformlara bildirmek
Avantajlar ve Dezavantajlar:
Avantajlar:
– AI sohbetbotları, kullanıcıların sorularına hızlı ve kişiselleştirilmiş yanıtlar sağlayabilir
– Müşteri hizmetlerini ve bilgiye erişimi otomatikleştirmede yardımcı olabilirler
– Sohbetbotları, kullanıcı deneyimlerini geliştirmeye ve iletişimi basitleştirmeye olanak tanır
Dezavantajlar:
– Chatbotlar, algoritmik önyargılar veya kötü niyet nedeniyle yanlış bilgiyi yanlışlıkla yayabilirler
– Doğru ve yanıltıcı içerik arasında etkili bir şekilde ayrım yapma yeteneğine sahip olmayabilirler
– AI sohbetbotları, düzgün bir şekilde düzenlenmezse, çevrimiçi bilgi kaynaklarına olan güvenin erozyonuna katkıda bulunabilirler
Önerilen İlgili Bağlantılar:
– NewsGuard Websitesi
– OpenAI Websitesi