Неодавнє дослідження підкреслило продовження гендерних стереотипів у застосуваннях штучного інтелекту в медичній сфері. Дослідники з Університету Фліндерс в Австралії ретельно проаналізували провідні генеративні моделі ШІ, включаючи ChatGPT від OpenAI та Gemini від Google, шляхом введення майже 50,000 запитів про медичних працівників.
Дослідження виявило, що ці моделі ШІ в основному зображували медсестер як жінок, незважаючи на такі змінні, як досвід і особистісні риси. Це свідчить про значну упередженість, оскільки медсестер визначали як жінок у 98% випадків. Крім того, представництво жінок у наративі про хірургів та лікарів було помітним, коливалася від 50% до 84%. Ці показники можуть відображати спроби компаній ШІ пом’якшити раніше підкреслені соціальні упередження у своїх результатах.
Згідно зі спеціалістом з анестезії з Вільного університету Брюсселя, який досліджував упередження ШІ, генеративний ШІ все ще посилює гендерні стереотипи. У сценаріях, де медичні працівники демонстрували позитивні риси, їх частіше класифікували як жінок. Навпаки, описи, що натякають на негативні риси, часто призводили до визначення цих професіоналів як чоловіків.
Результати свідчать про те, що інструменти ШІ можуть підтримувати вкорінені уявлення щодо гендерної поведінки та відповідності в певних ролях. Більш того, упередження в ШІ не тільки впливають на жінок і недопредставлені групи в медицині, але також можуть становити загрозу для догляду за пацієнтами, оскільки алгоритми можуть відтворювати хибні діагностичні стереотипи на основі раси та гендеру. Виправлення цих упереджень є критично важливим для відповідальної інтеграції ШІ в медичні заклади.
Розуміння та подолання гендерних стереотипів у ШІ: Поради та інсайти
У світлі нещодавнього дослідження, що підкреслює стійкі гендерні стереотипи в штучному інтелекті, особливо у медичній сфері, важливо вивчити способи розпізнавання, усунення та зменшення цих упереджень. Ось кілька цінних порад, лайфхаків та цікавих фактів, які можуть допомогти особам та організаціям зрозуміти та боротися з гендерними упередженнями в ШІ.
1. Слідкуйте за упередженнями у ШІ:
Обізнаність — це перший крок у боротьбі з упередженнями в ШІ. Досліджуйте та слідкуйте за розвитком етики ШІ, зосереджуючи увагу на тому, як упередження впливають на різні сфери, насамперед, на охорону здоров’я. Чим більше ви знаєте, тим краще підготовлені до прийняття обґрунтованих рішень та захисту змін.
2. Диверсифікуйте свої джерела даних:
Для розробників та організацій, які створюють системи ШІ, використання різноманітних наборів даних, що представляють всі гендери, раси та соціальні групи, може суттєво зменшити упередження. Розгляньте можливість отримання даних з різних демографічних груп, щоб підвищити представництво ваших моделей ШІ.
3. Впроваджуйте регулярні аудити:
Проводьте регулярні аудити систем ШІ для виявлення потенційних упереджень у результатах. Регулярно переглядайте результати та процеси прийняття рішень у застосуваннях ШІ та переналагоджуйте алгоритми там, де це необхідно, для сприяння справедливості та рівності.
4. Сприяйте прозорості:
Вимагаєте прозорості у роботі ШІ у вашій організації. Розуміння того, як системи ШІ приймають рішення, може пролити світло на існуючі упередження. Сприяння відкритим обговоренням про процеси ШІ може допомогти кинути виклик вкоріненим стереотипам.
5. Залучайте багатодисциплінарні команди:
Під час розробки застосувань ШІ залучайте команди з різноманітними фоном — включаючи етиків, соціальних науковців та медичних працівників, щоб отримати кілька точок зору. Це різноманіття може допомогти виявити потенційні упередження, які можуть бути непоміченими однорідною групою.
6. Сприяйте інклюзії в освіті ШІ:
Заохочуйте навчальні заклади включати теми етики та упереджень ШІ у свої програми навчання. Поінформоване покоління буде більш свідомим щодо наслідків ШІ та зможе більше звертати увагу на стереотипи в технологіях.
7. Підтримуйте компанії, віддані етичному ШІ:
Обираючи постачальників або застосування ШІ, надавайте перевагу компаніям, які віддані етичним практикам ШІ та активно працюють над мінімізацією упереджень. Шукайте організації, які публікують свої зусилля щодо подолання гендерних нерівностей у своїх алгоритмах.
Цікавий факт: Чи знали ви, що дослідження показало, що моделі ШІ, які навчалися в основному на історичних даних, можуть відтворювати гендерні нерівності? Алгоритми, що навчаються на упереджених даних, можуть перенести ті ж стереотипи, що підкреслює необхідність відповідального добору даних як ніколи.
Висновок:
Наслідки гендерних стереотипів у ШІ, особливо в охороні здоров’я, виходять за межі простого представлення; вони можуть впливати на догляд за пацієнтами та професійні динаміки. Застосовуючи ці поради та сприяючи постійному діалогу про ШІ та упередження, фізичні особи та організації можуть зробити внесок у більш рівноправні практики у розвитку ШІ.
Для отримання додаткових вказівок щодо технологій та етики, відвідайте MIT Technology Review.
The source of the article is from the blog elektrischnederland.nl