New York Şehir Belediye Başkanı Eric Adams, şehrin yeni yapay zeka sohbet botunun bazı sorunları olduğunu kabul etti. Bu sohbet botu, işletme sahiplerine yanlış cevaplar sunması ve hukuki ihlallere yol açabilecek tavsiyelerde bulunması nedeniyle eleştirilerle karşılaştı. Ekim ayında pilot program olarak tanıtılan MyCity sohbet botu, işletme sahiplerinin sorularına doğru ve uygulanabilir bilgiler sağlamayı amaçlıyordu.
Ancak The Markup’tan gelen araştırmacı gazeteciler, sohbet botunun sık sık yanlış bilgiler verdiğini keşfettiler. İşverenlere yanlış bir şekilde çalışanların bahşişlerinden bir kısmını alabileceklerini önerdi ve işverenlere çalışma programı değişikliklerini çalışanlara bildirmeyi zorunlu kılan bir düzenleme olmadığını yanlış bir şekilde ifade etti.
Bu sorunları kabul eden Demokrat Başkan Adams, sohbet botunun gelişiminin hala erken aşamalarda olduğunun altını çizerek, ortaya çıkabilecek herhangi bir kusuru tespit edip düzeltmede gerçek dünya senaryolarında teknolojiyi test etmenin önemini vurguladı.
Sohbet botu hala çevrimiçi olarak erişilebilir durumda olsa da, zaman zaman yanlış cevaplar sunmaya devam ediyor. Örneğin, mağaza sahiplerinin nakit ödeme yapmayı reddedebileceğini iddia ederken, 2020 şehir konseyi yasasının işletmelerin böyle bir eylemde bulunmasını yasakladığından haberse olmayabilir. Ayrıca, 2024 yılında şehirdeki asgari ücretin saatte 16 dolara yükseldiğinden habersiz, bunu yanlışlıkla 15 dolar olarak belirtiyor.
Sohbet botu, hatalarını Microsoft’un Azure AI servisine dayandırıyor, ancak yaptığı hatalar genellikle ChatGPT gibi generative AI teknoloji platformlarıyla ilişkilendiriliyor. Bu platformların ara sıra yanlış bilgiler uydurma veya haksız özgüvenle yanlış iddialarda bulunma eğiliminde olduğu biliniyor. Ne Microsoft ne de Şehir Belediye Başkanlığı, bu hataların kaynağı veya potansiyel çözümleri ile ilgili sorulara yanıt vermedi.
Bu endişeleri ele almak için, şehir, MyCity sohbet botu web sitesindeki feragatnameleri güncelledi ve işletmelere yanıtlarının yanlış veya eksik olabileceğini belirtti. İşletmelere yanıtlarına hukuksal veya mesleki tavsiye olarak güvenmemeleri konusunda açık bir uyarı yapıldı.
Binlerce restoran sahibini temsil eden NYC Hospitality Alliance’ın direktörü Andrew Rigie, işletmelere AI teknolojisini kullanarak yardım etme girişimini takdir etti, ancak güvenilir olması gerektiğine vurgu yaptı. Rigie, işletme sahiplerinin sohbet botunun hatalı rehberliğine uymaları durumunda karşılaşabilecekleri hukuki sonuçlar konusunda endişelerini dile getirdi. O, sohbet botundan aldıkları cevaplardan sonra hukuk uzmanlarına danışmanın asıl amacını geçersiz kıldığını vurguladı.
MyCity sohbet botu, işletme sahiplerine hızlı ve erişilebilir bilgiler sağlama amacıyla yapılan yenilikçi bir girişimi temsil ederken, hala amaçlarına ulaşmada yetersiz kalmaktadır. Başkan Adams ve ilgili paydaşlar, sorunları ele almalı ve sohbet botunun doğruluğunu ve güvenilirliğini artırmak için çalışmalıdır.
### Sık Sorulan Sorular (SSS)
1. MyCity sohbet botunun amacı nedir?
MyCity sohbet botu, New York Şehri’ndeki işletme sahiplerine sorularına yanıt olarak doğru ve işlenebilir bilgiler sağlamak üzere tasarlanmıştır.
2. Sohbet botu neden eleştiri almıştır?
Sohbet botu, sık sık yanlış cevaplar sunması ve hukuki ihlallere yol açabilecek tavsiyelerde bulunması nedeniyle eleştiri almakta.
3. Sohbet botu tarafından verilen yanlış bilgilerden bazıları nelerdir?
Sohbet botu, işverenlere çalışanların bahşişlerinden bir kısmını alabileceklerini yanlış bir şekilde önermiştir. Ayrıca, işverenlerin çalışanlarına program değişikliklerini bildirmelerini gerektiren bir düzenleme olmadığını iddia etmesi de yanlıştır.
4. Sorunları ele almak için neler yapılıyor?
Şehir, MyCity sohbet botu web sitesinde feragatnameleri güncelleyerek yanıtlarının hatalı olabileceğini kabul ediyor ve işletmelere bunlara hukuki veya mesleki tavsiye olarak güvenmemeleri konusunda uyarıda bulunuyor. Ayrıca, hataları düzeltme ve sohbet botunun güvenilirliğini artırma çabaları devam ediyor.
5. İşletme sahipleri ve sektör temsilcileri tarafından ortaya atılan endişeler nelerdir?
İşletme sahipleri ve sektör temsilcileri, sohbet botunun hatalı rehberliğini takip etmelerinden kaynaklanacak hukuki sonuçlardan endişe duymaktadır. Sohbet botunun güvenilir ve doğru bilgi sağlamasının önemini vurguluyorlar.
(Kaynak: Reuters – Makaleye [buradan](https://www.reuters.com/) ulaşabilirsiniz.)
The source of the article is from the blog macholevante.com