Yapay zeka (YZ), günlük hayatımızın ayrılmaz bir parçası haline gelmiştir, ancak yeni araştırmalar dilin lehçesinin YZ’nin nasıl yorumladığını ve bireyler hakkında bilgi sunduğunu etkileyebileceğini öne sürmektedir. Cornell Üniversitesi tarafından yürütülen son çalışma, insan benzeri metinler üretmek üzere tasarlanmış derin öğrenme algoritmaları olan büyük dil modellerinin (LLM’ler) içine gömülmüş olan altta yatan ırksal önyargıları araştırmaktadır.
Çalışma, OpenAI’nin ChatGPT, GPT-4, Meta’nın LLaMA2 ve French Mistral 7B gibi çeşitli LLM’leri odak noktasına almıştır. Araştırmacılar, eşleştirilmiş giysi sorgulaması adı verilen bir teknik kullanarak, bu dil modellerinin Afrika kökenli Amerikan İngilizcesi ve Standart Amerikan İngilizcesi üzerinden verilen yönlendirmelere nasıl yanıt verdiğini inceledi.
Şaşırtıcı bir şekilde, sonuçlar, Afrika kökenli Amerikan İngilizcesi konuşan bireylerin, belirli LLM’ler tarafından işlenirken negatif stereotipler veya suçlulukla ilişkilendirilen şekillerde tanımlanma olasılığının daha yüksek olduğunu ortaya çıkardı. Örneğin, GPT-4’ün, ırkları açıkça belirtilmeksizin Afrika kökenli Amerikalılar tarafından yaygın olarak kullanılan dil ile karşılaştığında daha fazla “sanıkları idama mahkum etme” eğiliminde olduğu görüldü.
Ayrıca, çalışma, LLM’lerin, Afrika kökenli Amerikan İngilizcesi konuşan bireylerin daha az prestijli işlere sahip olduğunu varsayma eğiliminde olduğunu ortaya çıkardı, bu da algoritmalar içinde gizli bir önyargıyı yansıttı. Bununla birlikte, araştırma, LLM’lerin, ne kadar büyük olursa, Afrika kökenli Amerikan İngilizcesini o kadar iyi anladığını, ancak boyutunun içsel ırksal önyargıları hafifletmediğini gösterdi.
LLM’lerde açık ırkçılığın azaltılmasında ilerleme kaydedilmiş olmasına rağmen, çalışma tüm ırksal önyargıların eritilmiş olduğunu hemen kabul etmemenin uyarısında bulunmaktadır. Bu endişe, bu önyargıların artık daha incelikle gömülü olmalarından kaynaklanmaktadır, bu da onları tanımlamasının ve ele almasının daha zor hale gelmesini sağlar. LLM’leri eğitmek için geleneksel yöntemler, genellikle bu gizli önyargıları dengelemekte başarısız olur ve modellerin, yaydıkları içsel ırksal önyargıları yüzeysel olarak gizlemesine izin verir.
Bu araştırma, ırksal önyargıları sıkı bir şekilde ele alacak YZ sistemlerinin geliştirilmesi ve kullanılması için acil ihtiyacı vurgulamaktadır. YZ farklı endüstrileri şekillendirmeye devam ettikçe ve karar verme süreçlerini etkiledikçe, bu teknolojilerin tüm bireyler için adalet, kapsayıcılık ve adaleti teşvik ettiğinden emin olmak hayati önem taşımaktadır, dil lehçesi veya kültürel geçmişleri ne olursa olsun.
The source of the article is from the blog anexartiti.gr