Google’ın en son arama özelliği olan AI Reviews, kullanıcı deneyimini basitleştirmeyi amaçladı, çeşitli internet kaynakları aracılığıyla sıkça sorulan sorulara üstteki arama sayfasında yanıtlar sağlayarak. Bununla birlikte, teknoloji devi son zamanlarda bu otomatik yanıtların içerdiği gerçek dışılıklar nedeniyle eleştirilere maruz kaldı ve yapay zekâ tarafından desteklenen sohbet botlarının güvenilirliği hakkında geniş bir konuşmanın tetiklenmesine sebep oldu.
İki hafta önce başlatılan AI Incelemeleri özelliği, kullanıcıları karmaşık sorularla desteklemeyi amaçladı. Ancak, kullanıcılar hızla uygun olmayan DIY yiyecek çözümleri, yanlış sağlık ipuçları ve çürütülmüş komplo teorilerinin yayılmasını sağlayan yanıtlar keşfettiler, böylece mevcut AI modellerinin sınırlarını ortaya koydular.
Generatif AI üzerine uzmanlaşmış bir startup olan Vectara’nın yaptığı araştırma, sohbet botlarının önemli bir sayıda etkileşimde bilgi uydurduğunu bulmuştur. OpenAI’nın ChatGPT ve Google’ın Gemini gibi büyük dil modelleri, mevcut desenlere dayanarak yanıtları öngörmeyi öğrenir. Artefact’ten Hanan Wazan, bu kestirimci süreç ve insan düşüncesinin konuşmayı ön izleme süreci arasındaki benzerliğe dikkat çekti.
Eksik veya önyargılı veri kümeleri, bir sohbet botunun yanlış yanıtlar “hayal etmesine” yol açabilir. Google, bu tür hataların yanlış tahminler ve uydurma tehditlerin tespiti gibi çeşitli türlerini tespit etmiştir. Sohbet botları hala gözlemlenen verileri analiz ederek yanıt üretme aşamasındalar, McKinsey ortağı Alexander Suharevsky’nin dediği gibi AI’ya daha çok “hibrit bir teknoloji” gözüyle bakabiliriz.
Yanlış bilginin sonuçları, özellikle tıbbi AI’nin tıbbi durumları yanlış teşhis etmesi durumunda ciddi olabilir. HTEC Group’tan Igor Sevo, AI uygulamalarının çeşitlilik gösterebileceğini vurgulayarak, yaratıcı senaryoların hayalperest çıktılardan faydalanabileceğini belirtti, ancak gerçek doğruluk başka bir konuda esastır. AI modelleri, güvenilir tedarikçilerden bilgi almanın önemini vurgulayan nitelikli verilerle beslenirler.
Örneğin, OpenAI, modellerini etkili bir şekilde eğitmek için saygın medya kuruluşlarından içerik sağlar. Teknoloji ilerledikçe, veri setlerinin ve AI eğitiminin titiz şekilde üzerinde çalışılması, sohbet botlarının etkileşimlerinin doğruluğunu ve güvenilirliğini artırmak için kritik olmaya devam edecektir.
AI destekli araçlar ve doğrulukları konusu hem önemli hem de tartışmalıdır. İşte bazı ilgili sorular, zorluklar ve tartışmalar:
Ana Sorular:
– Yanlış bilginin yayılmasını önlemek için AI sistemleri nasıl geliştirilebilir?
– Bu modelleri besleyen kaynakların güvenilir ve doğru olduğundan nasıl emin olunabilir?
– Kullanıcıların AI tarafından oluşturulan içeriklere ne kadar güvenmeleri gerekiyor?
Zorluklar ve Tartışmalar:
– Birinci derece zorluklardan biri, eğitim veri setlerinin kalitesi ve önyargısıdır. AI modelleri, önyargılı veya yanlış verilerle eğitilirse, önyargılı veya yanlış çıktılar üretecektir. Bu uzun zamandır AI topluluğunda endişe kaynağı olmuştur.
– Diğer bir zorluk, AI’nın otonomisi ve insan denetimi arasındaki dengedir. Doğru kontroller olmadan çok fazla otonomi, yanlış bilgilerin yayılmasına ve çok fazla denetim, otomatik süreçlerin değerinin ortadan kalkmasına yol açabilir.
– Bir diğer konu da kullanıcı eğitimindedir. Kullanıcılar, AI’nın faydalı bilgiler sağlayabileceğinin farkında olmalıdır, ancak özellikle kritik konularda çıktılarını güvenilir kaynaklarla karşılaştırmalıdırlar.
AI Reviews’ın Avantajları:
– Kolaylık: AI İncelemeler, kullanıcılara birden fazla web sitesi arasında süzülme ihtiyacı olmadan hızlı bir şekilde bilgi sağlayabilir.
– Verimlilik: Bu sistemler insanın yapabileceğinden çok daha fazla veriyi hızlı bir şekilde işleyebilir.
AI Reviews’ın Dezavantajları:
– Yanlışlıklar: Google’ın son yaşadığı sorunlarla görüldüğü gibi, AI yanlış bilgiyi yayabilir ve bu da karmaşaya veya zarara yol açabilir.
– Yanlış Güven: Kullanıcılar, AI tarafından sağlanan yanıtlara gereğinden fazla güvenebilir ve doğruluğunu doğrulamadan kabul edebilirler.
İlgili bağlantılar açısından, genellikle AI ve ilerlemeleri konusunda konuşan saygın ajanslar, araştırma kurumları veya haber kaynaklarını kapsayan URL’lar sağlanır, örneğin AI modelleri üzerindeki çalışmalarıyla tanınan OpenAI veya birçok diğer AI girişimi arasında yer alan ve AI İnceleme özelliklerini geliştiren Google. Bilgilere güvenmeden önce kaynakların güvenirliğini ve ilgisini doğrulamayı unutmayın.
The source of the article is from the blog guambia.com.uy