Stanford Hukuk Fakültesi’nde yapılan son araştırma, sohbet botlarının, kullanıcı isimlerinin ırk ve cinsiyet çağrışımlarına göre verilen cevaplarda önemli önyargılar taşıdığını ortaya koymuştur. Araştırma sonuçları, OpenAI’nin ChatGPT 4 ve Google AI’nın PaLM-2 gibi sohbet botlarının, kullanıcının isminin algılanan etnik kökenine bağlı olarak tavsiyelerinde farklılıklar gösterdiğini göstermektedir.
Geçen ay yayımlanan araştırma makalesi, işletmelerin yapay zeka teknolojilerini günlük operasyonlarına dahil ettikçe, bu önyargılarla ilişkili potansiyel risklere dikkat çekmektedir. Araştırmanın ortak yazarı olan Stanford Hukuk Fakültesi profesörü Julian Nyarko, yapay zeka modelleri içinde ön yargılı yanıtları engellemek için etkili koruma önlemlerine ihtiyaç olduğunu vurgulamaktadır.
Araştırma, satın alma kararları, satranç maçları, kamu görevi tahminleri, spor sıralamaları ve maaş teklifleri de dahil olmak üzere beş farklı senaryoyu değerlendirdi. Çoğu senaryoda, önyargıların siyah bireyler ve kadınlara dezavantajlı olduğu bulunmuştur. Göze çarpan bir istisna, önyargıların siyah sporcular lehine olduğu basketbol oyuncularının sıralaması durumunda görülmüştür.
Araştırma, yapay zeka modellerinin eğitimlerinde kullanılan verilere dayanarak yaygın kalıpları kodladığı ve bunun sonucunda yanıtlarını etkilediği sonucuna varmıştır. Bu durum, ele alınması gereken genel bir sorun olduğunu göstermektedir.
Sıkça Sorulan Sorular
Araştırmanın başlıca bulguları nelerdir?
Çalışma, kullanıcı isimlerinin ırksal çağrışımlarına dayanarak yapay zeka sohbet botlarının yanıtlarında önemli önyargılar olduğunu ortaya koymuştur. İsimleri ırksal azınlıklar ve kadınlarla ilişkilendirilen isimlerin dezavantajlı olduğu ortaya çıkmıştır, ancak basketbolcuların sıralandığı durumlarda bu doğrultuda bir önyargı bulunmamıştır.
Bu önyargılar farklı yapay zeka modellerinde var mıdır?
Evet, önyargılar, değerlendirilen 42 başlatıcı şablon ile farklı yapay zeka modelleri arasında tutarlı bulunmuştur.
Yapay zeka şirketleri bu önyargılarla başa çıkmak için hangi adımları atıyor?
OpenAI, bu sorunun farkında olduğunu belirterek güvenlik ekibinin önyargıyı azaltma ve performansı artırma konusunda aktif olarak çalıştığını dile getirmiştir. Bununla birlikte, Google konuya yanıt vermemiştir.
Tavsiyeler, sosyo-ekonomik gruplara göre farklılık göstermeli mi?
Çalışma, zenginlik ve demografiler gibi sosyo-ekonomik faktörlere dayalı olarak tavsiyelerin uyarlamasını savunma potansiyelini kabul ederken, önyargılı sonuçların istenmeyen durumlarda azaltılması gerektiğinin altını çizmektedir.
Sonuç olarak, bu çalışma, yapay zeka sistemlerindeki önyargıları kabul etmenin ve ele almanın önemini vurgulamaktadır. Bu önyargıların varlığını kabul ederek, yapay zeka şirketleri, sohbet botlarından adil ve önyargısız yanıtlar almayı sağlamak için gerekli adımları atabilir ve toplumda yapay zekanın daha adil bir şekilde kullanılmasına katkıda bulunabilir.
Kaynaklar:
– Nature: Algorithmic bias in AI chatbots
– Forbes: Global Chatbot Market to Reach $10 Billion by 2026
– VentureBeat: Concerns over bias in AI systems are justified
The source of the article is from the blog procarsrl.com.ar