Ново проучване подчертава продължаването на половите стереотипи в приложенията на изкуствения интелект в медицинската област. Изследователи от Университета Флиндърс в Австралия анализираха известни генеративни AI модели, включително ChatGPT на OpenAI и Gemini на Google, като им зададоха почти 50,000 запитвания за здравни специалисти.
Проучването разкри, че тези AI модели основно представят медицинските сестри като жени, независимо от променливи като опит и личностни черти. Това откритие предполага значителен пристрастие, тъй като медицинските сестри бяха идентифицирани като жени в 98% от случаите. Освен това, представянето на жените в разкази за хирурзи и лекари беше забележително, вариращо от 50% до 84%. Тези числа може да отразяват опити от страна на AI компаниите да ограничат предишно подчертаните социални предразсъдъци в техните продукции.
Според специалист по анестезия от Свободния университет в Брюксел, който проучва пристрастията в AI, генеративният AI все още укрепва половите стереотипи. В сценарии, при които здравните специалисти показват положителни черти, те по-често се категоризират като жени. Обратно, описанията, които намекват за отрицателни черти, често водят до идентификация на тези специалисти като мъже.
Резултатите показват, че инструментите на AI може да поддържат дълбоко вкоренени вярвания относно половото поведение и подходящостта в специфични роли. Освен това, пристрастията в AI не само засягат жените и недостатъчно представените групи в медицината, но могат също така да изложат на риск пациентската грижа, тъй като алгоритмите могат да продължават да възпроизвеждат погрешни диагностични стереотипи, основани на раса и пол. Обaddressing these biases is crucial for the responsible integration of AI in healthcare settings.
Разбиране и справяне с половите стереотипи в AI: Съвети и прозрения
В светлината на последното изследване, подчертаващо упоритите половите стереотипи в изкуствения интелект, особено в медицинската сфера, е важно да се проучат начини за разпознаване, справяне и намаляване на тези предразсъдъци. Ето някои ценни съвети, трикове за живот и интересни факти, които могат да помогнат на индивидите и организациите да разберат и се борят с половите предразсъдъци в AI.
1. Бъдете информирани за предразсъдъците в AI:
Осведомеността е първата стъпка за борба с предразсъдъците в AI. Проучвайте и следете развитието на етиката в AI, съсредоточавайки се върху това как предразсъдъците влияят на различни области, особено върху здравеопазването. Колкото повече знаете, толкова по-добре сте подготвени да вземате информирани решения и да защитавате промени.
2. Диверсифицирайте вашите източници на данни:
За разработчиците и организациите, които създават AI системи, използването на разнообразни набори от данни, които представят всички полове, раси и произходи, може значително да намали пристрастията. Обмислете вземането на данни от различни демографски групи, за да подобрите представителността на вашите AI модели.
3. Извършвайте редовни одити:
Извършвайте редовни одити на AI системите, за да идентифицирате потенциални предразсъдъци в продукцията. Редовно преглеждайте резултатите и процесите на вземане на решения на AI приложенията и настройвайте алгоритмите, където е необходимо, за да насърчите справедливостта и равенството.
4. Настоявайте за прозрачност:
Настоявайте за прозрачност в операциите на AI във вашата организация. Разбирането на начина, по който AI системите вземат решения, може да осветли всякакви предразсъдъци, които могат да съществуват. Насърчаването на открити дискусии за процесите на AI може да помогне за оспорване на вкоренените стереотипи.
5. Включете многодисциплинарни екипи:
При разработването на AI приложения, ангажирайте екипи с разнообразен произход – включително етици, социални учени и здравни специалисти – за да предоставят множество перспективи. Това разнообразие може да помогне за идентифициране на потенциални предразсъдъци, които хомогенна група може да пренебрегне.
6. Насърчавайте инклузията в образованието по AI:
Насърчавайте учебните заведения да включат теми за етика и предразсъдъци в AI в учебните си програми. Информирано поколение ще бъде по-съзнателно относно последствията от AI и по-добре подготвено да се справи с стереотипите в технологиите.
7. Подкрепяйте компании, ангажирани с етичен AI:
Когато избирате доставчици или приложения на AI, приоритизирайте компании, които са ангажирани с етични практики в AI и активно работят за минимизиране на предразсъдъците. Търсете организации, които публикуват усилия за справяне с половите различия в алгоритмите си.
Интересен факт: Знаете ли, че проучване е установило, че AI модели, обучавани главно на исторически данни, могат да възпроизвеждат половите неравенства? Алгоритми, които учат от предразсъдъчни данни, могат да продължат същите стереотипи, което означава, че нуждата от отговорно управление на данните е по-критична от всякога.
Заключение:
Последствията от половите стереотипи в AI, особено в здравеопазването, надхвърлят просто представителството; те могат да влияят на пациентската грижа и професионалната динамика. Чрез прилагането на тези съвети и насърчаване на постоянен диалог относно AI и предразсъдъците, индивидите и организациите могат да допринесат за по-справедливи практики в развитието на AI.
За повече прозрения относно технологията и етиката, посетете MIT Technology Review.
The source of the article is from the blog krama.net