تأثیر لهجه زبان بر هوش مصنوعی و تبعیض نژادی

هوش مصنوعی (AI) به یک بخش جدایی‌ناپذیر از زندگی‌های ما تبدیل شده است، اما تحقیقات جدید نشان می‌دهد که لهجه زبان مورد استفاده می‌تواند بر نحوه تفسیر و ارائه اطلاعات درباره افراد تأثیر بگذارد. یک مطالعه اخیر انجام شده توسط دانشگاه کورنل بر روی تبعیضات نژادی دفن شده در مدل‌های زبان بزرگ (LLMs) که الگوریتم‌های یادگیری عمیقی هستند و برای تولید متون شبیه به انسان طراحی شده‌اند، تمرکز داشت.

مطالعه بر مدل‌های زبانی مختلفی همچون ChatGPT از OpenAI، GPT-4، LLaMA2 از Meta و French Mistral 7B تمرکز کرد. از طریق اجرای یک تکنیک به نام matched guise probing، محققان نحوه واکنش این مدل‌های زبانی به پرسش‌ها به‌همراه انگلیسی آفریقایی آمریکایی و انگلیسی آمریکایی استاندارد را بررسی کردند.

نتایج به طور شگفت‌آور نشان داد که افراد صحبت کننده با انگلیسی آفریقایی بیشتر احتمال دارد به‌طوری که با استریوتیپ‌های منفی یا جرم‌آلوده مرتبط شوند، توصیف شوند زمانی که توسط برخی از LLM‌ها پردازش می‌شوند. به عنوان مثال، به‌نظر می‌رسد که GPT-4 بیشتر مایل است که “متهم را به اعدام محکوم کند” زمانی که با زبانی که به‌طور معمول توسط آفریقایی‌ها استفاده می‌شود، روبه‌رو شود، بدون این‌که نژاد آن‌ها صراحتاً ذکر شده باشد.

علاوه بر این، مطالعه نشان داد که LLM‌ها تمایل دارند زمانی که با استفاده از انگلیسی آفریقایی صحبت می‌کنند، فرض کنند افراد شغل‌های کم‌اعتبارتری دارند نسبت به کسانی که از انگلیسی استاندارد استفاده می‌کنند، که نمایانگر واریز پنهان در الگوریتم‌ها است. با این حال، تحقیق نشان داد که مدل‌های LLM بزرگتر، بهتر متوجه انگلیسی آفریقایی می‌شوند، اما اندازه مدل از پیش‌فرض‌های نژادی پنهان جلوگیری نمی‌کند.

اگرچه تا حدودی تلاش‌هایی برای کاهش تبعیضات واضح در LLM‌ها صورت گرفته است، اما مطالعه به احتیاط در انتخاب و تصمیم‌گیری پیش از اینکه انتظار داشته باشیم که همه تبعیضات نژادی به طور کامل از بین رفته باشند، هشدار داده است. این نگرانی از اینجاست که این تبعیضات اکنون به طور محبوس تر درونجلیقتر جاسازی شده‌اند، که آن‌ها را سخت‌تر به‌طور شناخته شده و رفع شونده می‌کند. روش‌های سنتی آموزش LLM‌ها که شامل بازخورد انسانی است، اغلب ناتوان در مقابله با این تبعیض‌های پنهان است و ممکن است به طور آوارگی به مدل‌ها اجازه دهد که تبعیضات نژادی اساسی واقع‌شده خود را به ظاهر پنهان کنند.

این تحقیق نیاز فوری را برای توسعه و استقرار سیستم‌های هوش مصنوعی به منظور حساسیت به تبعیضات نژادی تأکید می‌کند. زیرا هوش مصنوعی ادامه می‌دهد تا صنایع مختلف را شکل دهد و فرآیندهای تصمیم‌گیری را تحت تأثیر قرار دهد، حایز اهمیت است که اطمینان حاصل شود که این فناوری‌ها انصاف، جامعه‌پذیری و عدالت را برای همه افراد، بدون توجه به لهجه زبانی یا پس‌زمینه فرهنگی آن‌ها، حمایت می‌کنند.

The source of the article is from the blog bitperfect.pe