الدراسات الحديثة أكدت التحيزات الإدراكية وعدم العقلانية الكامنة في نماذج اللغة المتقدمة التي تنتشر عبر مجموعة من المهام في معالجة اللغة الطبيعية. على الرغم من أن هذه النماذج أصبحت مُعتمدة على نطاق واسع بسبب كفاءتها، إلا أنها ليست خالية من بعض القيود، مثل إنتاج معلومات غير واقعية وظهور ردود فعل متفاوتة.
لقد تمت توازن عقلانية هذه النماذج مقابل تحيزات العقل البشري، بناءً على تراث بحثي يتضمن أسماء بارزة مثل بيتر كاثكارت واسون والثنائي الأيقوني دانيال كانيمان وآموس تفيرسكي. يُلاحظ واسون بشكل خاص عمله على الجوانب غير المنطقية وغير العقلانية للفكر البشري من خلال تجاربه مثل “مهمة 2-4-6”. أما مساهمة كانيمان وتفيرسكي تكمن في إبراز الأخطاء النظامية في اتخاذ القرارات البشرية.
البحث الذي قام به ماكميلان-سكوت وموسوليسي (2024) يأخذ هذه الدراسة أبعد من خلال فحص التحيزات الإدراكية في سبعة نماذج لغوية كبيرة من خلال اختبارات إدراكية تم تصميمها مرة أخرى للبشر. أظهرت هذه النماذج، بما في ذلك GPT-3.5 وGPT-4 التابعة لشركة OpenAI وBard التابعة لشركة Google، توجهات مثل تحيز التأكيد وتأثير التقييد، يعكس العقلانية المشابهة للبشر.
ومع ذلك، أظهرت النماذج لغوية متمايزة من طرفين أيضًا. أولاً، أنتجت استدلالًا لا يتماشى مع تحيزات الإنسان، مما يؤدي إلى عدم دقة الحقائق والتفاهمات المنطقية. وثانيًا، كان هناك تناقض كبير داخل نفس النموذج عندما عرض عليه نفس المهام.
يثير هذا أسئلة هامة بشأن تطبيق هذه النماذج في مجالات حرجة مثل الدبلوماسية أو الطب. منهجية تطبيقت في هذا البحث تمهّد الطريق لتقييم ومقارنة قدرات التفكير المنطقية لنماذج اللغة ولها تطبيقات واسعة تتعدى الدراسة الحالية. يجب إجراء بحث إضافي لمعالجة جوانب الأمان والعقلية في الآلات الاصطناعية.
يعد موضوع التحيزات الإدراكية والعقلانية في نماذج اللغة معقدًا وذو صلة. تنشأ مشاكل متنوعة من هذا المجال، بما في ذلك فهم أسباب التحيزات، تحديد المخاطر المحتملة والحلول الممكنة، واستشراف الآثار الأوسع نطاقًا لاستخدام هذه النماذج في المجتمع.
The source of the article is from the blog coletivometranca.com.br