Google’ın Yapay Zeka Tabanlı Özetleme Özelliği Kullanıcıyı Mutfakla İlgili Soruda Yanılttı
Business Insider tarafından detaylandırılan ilginç bir olayda, Google’ın yeni AI Overviews arama işlevi, bir pizza ile ilgili soruna pratik olmayan bir çözüm üretirken takıldı. Peynirin pizzadan kayma sorununa bir çözüm bulmaya çalışan AI Overviews, sosun yapışkanlığını artırmak için “yaklaşık ⅛ fincan toksik olmayan yapıştırıcı” eklemenin garip bir öneri olduğunda tuhaf bir öneride bulundu. Bu garip tavsiye muhtemelen 11 yaşında bir Reddit yorumundan kaynaklanmış gibi görünüyor ve muhtemelen bir şaka olarak tasarlanmıştı.
Google, AI Overviews’ı Kusurlarına Rağmen Genişletmeyi Planlıyor
AI Overviews’ın yaygınlaştırılması ABD ve İngiltere’de bir test olarak başladı ve Google’ın 2024 yılının sonuna kadar daha geniş uygulama hedeflediği belirtiliyor. Google’ın arama bölümü başkanı Liz Reid, son zamanlardaki bir şirket konferansında bu özelliğin Google’ın kullanıcı adına arama yapmasını etkili bir şekilde sağlayacağını övdü.
Doğruluk Sorunları Google’ın AI Overviews’ı ile İlgili Endişeleri Arttırıyor
Yapışkan-pizza olayı, bilgi almak için AI kullanmanın düşmedeki potansiyel tuzaklardan sadece birini gösteriyor. Sosyal medyada kullanıcılar tarafından rapor edilen diğer vakalar arasında, NHL’de oynayan bir köpekle ilgili bir ifade gibi önemli derecede yanlış yanıtlar bulunuyor. Business Insider’dan Peter Kafka, AI tarafından oluşturulan içerikle ilgili temel sorunlardan birinin bilgiyi uydurma potansiyeli olduğunu belirtti. Örneğin, AI Overviews yanlışlıkla Londra Kulesi’ni Big Ben’in yerine savaş zamanı bombalanmış gibi tanımladı.
Bu vakalar olsa da, önceki bir dönemde bir Google sözcüsü, böyle örneklerin “son derece nadir sorgulardan kaynaklandığını” ve AI Overviews’ın büyük çoğunluğunun yüksek kaliteli bilgiler sağladığını vurguladı. Özellik faaliyete geçmeden önce, Google’ın kapsamlı testler yaptığı bildirildi. Bununla birlikte, bu gibi durumlar, AI’nın arama motorlarına entegre edilmesiyle ortaya çıkan karmaşıklıkları ve daha fazla iyileştirme ihtiyacını belirginleştiriyor.
Google’ın AI Overviews’ı ile İlişkili Önemli Sorular ve Zorluklar
En önemli sorulardan biri şu: AI tarafından üretilen tavsiyelere ne kadar güvenilir? AI Overviews’ın bir şaka yorumuna dayanarak tavsiye vermesi, sağlanan bilgilerin güvenilirliği ve doğruluğu konusunda endişeleri arttırıyor. Kullanıcılar AI yönlendirmelerine kör bir şekilde güvenebilir, bu da zararlı durumlara veya yanlış bilginin yayılmasına yol açabilir. Temel zorluk, AI’nin güvenilir kaynaklar ile espri veya alay arasındaki ayrımı yapabilmesinin sağlanmasıdır ve bu insan dilinin ince yapısından dolayı zor olabilir.