Yapay zeka ve sohbet botlarının çağında, bu teknolojilerin çeşitli alanlarda insan etkileşimini sorunsuz bir şekilde yerine geçirebileceğine dair büyüyen bir inanç bulunmaktadır. Ancak, son olaylar yalnızca bu otomatik sistemlere güvenmeye dayalı olan sınırlamalar ve riskler hakkında endişeleri artırmıştır. Air Canada’nın sohbet botu vakası, müşteri hizmetlerinde AI kullanmanın potansiyel tehlikelerini açık bir şekilde ortaya koymaktadır.
Yasını tutan Jake Moffatt, büyükannesinin ölümü üzerine havayollarının sohbet botundan taziyelerle ilgili bilgi talep etti. Sohbet botu ona tam fiyatlı bir bilet almasını ve daha sonra 90 gün içinde kısmi bir geri ödeme talep etmesini önerdi. Moffatt bu yönlendirmeyi takip etti ve sohbetin bir ekran görüntüsünü dahi kaydetti. Ancak, geri ödeme talebi için Air Canada’ye başvurduğunda, sohbet botunun yanlış bilgi verdiği bilgisini aldı.
Bu olay, müşteri hizmetlerine güç veren jeneratif AI’nin (yaratıcı yapay zeka) kritik bir sorununu ortaya koyuyor: yanlış bilgi veya “sanrılar”ın olasılığı. AI doğru ve yanlış bilgi arasındaki ayrımı yapamaz; sadece var olan metni olası yanıtlara dönüştürebilir. Bazı durumlarda, AI tarafından üretilen içerik, var olmayan bilgilere referans verebilir, bu da karmaşaya ve hayal kırıklığına yol açabilir.
Air Canada’nın tepkisi de eşit derecede şaşırtıcıydı. Sorumluluk almaktan ziyade, havayolu, Moffatt’ı sohbet botunun rehberliğini resmi politikalarıyla karşılaştırmadığı için suçladı. Air Canada, kendi web sitelerinde kullanmaya devam ettikleri sohbet botunun güvenilirliğinden haberdar olmaları gerektiğini ima etti.
Moffatt, Air Canada’nın reddini kabul etmedi ve bir dava açtı, sonunda davayı kazandı. Havayolunun savunması, sohbet botunun bir “ayrı yasal varlık” olduğunu iddia etmek, kendisini sorumluluktan aklamaya yönelik şaşırtıcı bir girişimdi. Karar verme yeteneği olmayan bir botu, kendi eylemlerinden sorumlu tutmak mantıksızdır.
Bu olay, AI destekli sistemlere körü körüne güvenmenin potansiyel tehlikelerini açığa vurarak bir uyarı niteliği taşımaktadır. AI teknolojisi şüphesiz ilerlemiştir ancak hala insan etkileşiminin sağladığı nüanslı anlayış, empati ve değerlendirmeyi çoğaltamaz.
Körü körüne robotlara güvenmek yerine, AI’nın sınırlamalarını kabul etmek ve insanların yerini alamayacağını anlamak önemlidir. AI belirli görevleri artırabilir ve optimize edebilir ancak karmaşık etkileşimler ve kritik karar alma için gerekli insan dokunuşunun yerine geçemez.
Kuruluşların ve bireylerin AI’ye dikkatle yaklaşması, potansiyel tehlikelerini tanıması ve insan denetimi ve müdahalesini göz önünde bulundurması gereklidir. Tüm sorunlarımız için gümüş bir kurşun olarak AI’nın peşinden gitmek yerine, AI ve insan zekasının güçlerini birleştiren işbirliklerine odaklanarak daha dengeli ve etkili bir gelecek yaratmamız önemlidir.
The source of the article is from the blog enp.gr