Недавнє дослідження, проведене ученими Школи права Стенфорду, розкрило суттєві упередження, які присутні в чат-ботах під час відповіді на запити користувачів залежно від расових і гендерних конотацій їх імен. Згідно з висновками, чат-боти, такі як ChatGPT 4 від OpenAI та PaLM-2 від Google AI, відображають варіації у своїх порадах залежно від сприйнятої етнічності імені користувача.
Дослідницька стаття, опублікована у минулому місяці, підкреслює потенційні ризики, пов’язані з цими упередженнями, оскільки бізнеси все більше впроваджують технології штучного інтелекту у свою повсякденну діяльність. Співавтор дослідження, професор Школи права Стенфордського університету Джуліан Нярко, підкреслює потребу в ефективних механізмах (guardrails) всередині моделей AI для запобігання упереджених відповідей.
Дослідження оцінило п’ять різних сценаріїв, включаючи прийняття рішень щодо покупок, шахові партії, прогнози на обрані публічні посади, рейтинги спортсменів та пропозиції зарплат. У більшості сценаріїв виявлено упередження на шкоду чорношкірих осіб і жінок. Найбільш помітним винятком є ефект у рейтингу баскетболістів, де упередження були на користь чорношкірих атлетів.
Дослідження робить висновок, що моделі AI мають тенденцію кодувати типові стереотипи на основі даних, використованих для їхнього тренування, що впливає на їхні відповіді. Це свідчить про системну проблему, яку потрібно вирішити.
### Часто задавані питання
#### Які були головні висновки дослідження?
Дослідження виявило суттєві упередження в відповідях чат-ботів AI на основі расових конотацій імен користувачів. Воно виявило систематичні недоліки для імен, пов’язаних з расовими меншинами та жінками, за виключенням випадків оцінки баскетболістів.
#### Чи існують ці упередження у різних моделях AI?
Так, упереджenня виявлені у різних моделях AI та оцінено за 42 шаблонами запитів.
#### Які кроки підприємства AI вживають для вирішення цих упереджень?
OpenAI визнало проблему упереджень і зазначило, що їхній безпечний відділ активно працює над зменшенням упередженості та покращенням продуктивності. Однак Google не відреагував на проблему.
#### Чи повинні поради відрізнятися від соціоекономічних груп?
Хоча дослідження визнає можливий аргумент за налаштування порад на підставі соціоекономічних факторів, таких як багатство та демографія, воно підкреслює необхідність зменшення упереджень у ситуаціях, де упереджені результати є небажаними.
Усе у всьому, це дослідження підкреслює важливість визнання та усунення упереджень у системах штучного інтелекту. Визнавши існування цих упереджень, компанії AI можуть зробити необхідні кроки для забезпечення справедливих і неупереджених відповідей від їхніх чат-ботів, сприяючи більш справедливому використанню штучного інтелекту в суспільстві.
Дослідження про упередженість в чат-ботах має значущі наслідки для галузі, оскільки бізнеси все більше покладаються на технології штучного інтелекту. При очікуваному зростанні попиту на чат-ботів AI ринок чат-ботів може досягти $10,08 мільярда до 2026 року, з річним темпом зростання на 29,7% від 2021 до 2026 року.
Однак наявність упередженості у відповідях чат-ботів створює виклики для галузі. Якщо цю проблему не вирішити ефективно, упередженості можуть призвести до негативного досвіду користувачів, підтвердити соціальні нерівності та навіть призвести до юридичних наслідків для підприємств. В результаті компанії AI повинні надавати пріоритет розвитку етичних і неупереджених моделей AI.
Для вирішення цієї проблеми компанії AI вживають заходів для врегулювання упередженості в своїх системах чат-ботів. OpenAI, одна з провідних компаній у галузі штучного інтелекту, визнала проблему упередженості та зазначила, що їхня безпекова команда активно працює над зменшенням упередженості та покращенням продуктивності. Однак важливо відзначити, що Google не відреагував на проблему, що свідчить про необхідність більш активних зусиль з боку всієї галузі.
Дослідження також породжує питання про те, чи поради повинні відрізнятися в залежність від соціоекономічних груп. Хоча можуть бути аргументи за налаштування порад на підставі таких факторів, як багатство та демографія, дослідження підкреслює важливість зменшення упередженості у ситуаціях, де упереджені результати є небажаними. Воно акцентує на необхідності забезпечення справедливих і неупереджених відповідей від чат-ботів, незалежно від соціоекономічних факторів.
Корегування упередженості у системах штучного інтелекту є не лише етичною вимогою, а й ключовим для довгострокового успіху та прийняття технологій штучного інтелекту. Визнавши та працюючи активно над усуненням упереджень, компанії AI можуть сприяти більш справедливому використанню AI в суспільстві.
Для додаткового читання про упередженість в AI та їхні наслідки, ви можете відвідати наступні посилання:
– Nature: Algorithmic bias in AI chatbots
– Forbes: Global Chatbot Market to Reach $10 Billion by 2026
– VentureBeat: Concerns over bias in AI systems are justified
The source of the article is from the blog publicsectortravel.org.uk