Son olayda AI destekli sohbet botlarının potansiyel risklerini vurgulayan bir olayda, Air Canada’nın yanlışlıkla ilettiği bir iade politikasını onurlandırması gerektiğine karar verildi. Vaka, büyükannesinin ölümünden sonra Kasım 2022’de bir uçuş rezervasyonu yaparken Air Canada’nın sohbet botundan yardım isteyen Jake Moffatt etrafında dönüyor. Sohbet botu, Moffatt’a “geriye dönük tazminat ödemeleri yapabileceğini” önerdi. Ne yazık ki, daha sonra Air Canada’nın gerçekte geriye dönük başvurulara izin vermediğini keşfettiler.
Moffatt, sohbet botunun yanlış bilgi verdiğini iddia ederek belirtilen 90 günlük süre içinde bir iade talebi başlattı. Ancak Air Canada, bunu kabul etmeyi reddederek yerine 200 dolarlık bir kupon teklif etti. Buna karşılık Moffatt, iade hakkına sahip olduğunu iddia ederek Sivil Çözüm Hakem Heyeti’ne bir şikayette bulundu.
Air Canada savunması, sohbet botunun ayrı bir yasal varlık olarak kabul edilmesi gerektiği ve dolayısıyla sağladığı yanıltıcı bilgilerden sorumlu tutulamayacağı iddiasına dayanıyordu. Ancak hakem kararı Moffatt lehine çıktı ve havayolunun 482 ABD Doları (650.88 Kanada Doları) tutarında kısmi iade yapmasını emretti.
Karar, Air Canada’nın sohbet botunun yasal durumuyla ilgili iddialarının temelsiz olduğunu açıkladı. Sohbet botunun etkileşimli doğası olsa da, Air Canada web sitesinin ayrılmaz bir parçası olduğunu vurguladı. Bu nedenle, havayolu, kaynağından bağımsız olarak web sitesinde sunulan tüm bilgilerden sorumlu tutuldu.
Bu olay, bir Kanada şirketinin sohbet botu tarafından oluşturulan bilgiler için sorumluluktan kaçınmaya çalıştığı ilk bilinen vaka olmasına rağmen, AI destekli sohbet botlarını içeren benzer olaylar daha önce de rapor edildi. Örneğin General Motors, geçen yıl Chevrolet ChatGPT destekli sohbet botuyla sorunlar yaşarken, kullanıcılar yanlış beyanlar yaparak hatta bir aracı 1 dolara satmaya çalıştılar. Ayrıca, Dynacraft Parcel Delivery ve Amazon gibi diğer şirketler de sohbet botlarıyla sorunlar yaşamışlardır.
Bu zorluklara rağmen, AI sohbet botu pazarı, Sağlık, Perakende, BFSI, Medya & Eğlence, Seyahat & Turizm ve E-Ticaret sektörlerinde önemli bir büyüme projeksiyonuyla devam etmektedir. Bu olaylar, yanıltıcı veya zararlı çıktıları önlemek için AI teknolojisini insan zekası ve analizi ile birleştirmenin önemini hatırlatmaktadır.
The source of the article is from the blog mgz.com.tw