Штучний інтелект (AI) став невід’ємною частиною нашого життя, але нові дослідження свідчать, що діалект мови, який використовується, може впливати на те, як AI інтерпретує та представляє інформацію про людей. Недавнє дослідження, проведене університетом Корнелла, досліджує вбудовані расистські упередження великих мовних моделей (LLM), які є алгоритмами глибокого навчання, призначеними для генерації текстів, схожих на людські.
Дослідження зосереджувалося на різних LLM, таких як ChatGPT від OpenAI, GPT-4, LLaMA2 від Meta та французька Mistral 7B. Застосувавши техніку, що називається matched guise probing, дослідники досліджували, як ці мовні моделі реагують на запити як у мові афро-американської англійської, так і у стандартній американській англійській.
Дивно, результати показали, що людей, які говорили афро-американською англійською, частіше описували способами, що пов’язані з негативними стереотипами або злочинністю, коли їх обробляли певні LLM. Наприклад, GPT-4, здавалося, був більш схильний “призначати смертну кару підсудним” при обробці мови, якою часто користуються афро-американці, незалежно від їхньої раси.
Більше того, дослідження показало, що LLM мають тенденцію вважати, що люди, які говорять афро-американською англійською, мають менш престижні посади порівняно з тими, хто використовує стандартну англійську мову, що відображає ховане упередження в алгоритмах. Однак дослідження показало, що чим більший LLM, тим краще він розумів афро-американську англійську, хоча розмір не зменшував приховані расові упередження.
Хоча досягнуто певний прогрес у зменшенні відкритого расизму у LLM, дослідження попереджає про преране припущення, що всі расові упередження були усунуті. Турбота виникає з того, що ці упередження тепер більш тонко вбудовані, що робить їх важче виявляти та вирішувати. Традиційні методи тренування LLM, які включають людський відгук, часто не вдаються у протидії цим прихованим упередженням і можуть ненавмисно дозволяти моделям поверхнево приховувати вбудовані расистські упередження.
Це дослідження підкреслює термінову потребу розробки та впровадження систем штучного інтелекту для рішучого вирішення расових упереджень. Поки AI продовжує формувати різні галузі та впливати на процеси прийняття рішень, важливо забезпечити, щоб ці технології сприяли справедливості, інклюзії та правдивості для всіх осіб, незалежно від їхнього мовного діалекту чи культурного фону.
The source of the article is from the blog elblog.pl