Нещодавнє дослідження показало, що з розвитком і вдосконаленням інструментів штучного інтелекту, вони стають більш расистсько спрямованими, утримуючи системні расові упередження. Дослідження, проведене командою експертів у сферах технологій та мови, зосереджується на расистських стереотипах, які поширюють інструменти штучного інтелекту, такі як ChatGPT і Gemini, особливо по відношенню до говорців афроамериканської мови (AAVE), діалекту, поширеному серед американців чорної раси.
Мовні моделі штучного інтелекту мають різноманітні застосування у сучасному світі, від допомоги у написанні до впливу на рішення про прийом на роботу. Однак дослідження вказує на те, що ці мовні моделі сприяють системним расовим упередженням, що призводить до упереджених суджень проти маргіналізованих груп, таких як афроамериканці.
Валентін Гоффман, дослідник Інституту штучного інтелекту Аллена та співавтор дослідження, висловив обурення дискримінацією, з якою стикаються говорці AAVE, особливо у галузях, таких як відбір на роботу. Гоффман підкреслює, що чорні особи, які спілкуються, використовуючи AAVE, вже зіштовхуються з расовою дискримінацією в численних контекстах.
Для оцінки сприйняття особами, ті кошти вдосконалення, Гоффман та його команда навчили моделі оцінювати інтелект та придатність до праці осіб, які говорили AAVE, порівняно з тими, що використовують “стандартну американську англійську”. Мета полягала в розумінні моделей обробки різних діалектів, особливо AAVE.
Дослідники представили моделям AI речення наподобі “Я так радий, коли прокидаюся від поганої мрії, бо вони занадто реальні” та “Я так радий, коли прокидаюся від поганої мрії, бо вони занадто реальні” щодо порівняння. Виявлено, що моделі мають властивість маркувати говорців AAVE як “глупих” та “лінивих”, часто пропонуючи їм низькооплачувані посади.
Гоффман також висловив занепокоєння щодо потенційних наслідків для кандидатів на роботу, які перемикання між AAVE та стандартною англійською мовою в мовленні або в онлайн-…
**FAQ:**
1. **Що таке AAVE?**
AAVE означає “афроамериканську вернакулярну англійську”, яка поширена серед американців чорної раси.
2. **Чому важливо вирішувати расові упередженості у штучному інтелекті?**
Вирішення расових упереджень у штучному інтелекті є важливим для того, щоб запобігти дискримінації та забезпечити справедливість та включеність для маргіналізованих груп.
3. **Які були висновки дослідження?**
У дослідженні було виявлено, що моделі штучного інтелекту схильні маркувати говорців AAVE як “глупих” та “лінивих”, часто рекомендовуючи їх для низькооплачуваних посад. Крім того, моделі проявляли схильність рекомендувати більш суворі покарання для гіпотетичних кримінальних обвинувачених, які в своїх заявах в суді використовували мову AAVE.
Джерело: [The Guardian](https://www.theguardian.com/)
The source of the article is from the blog bitperfect.pe