Roman Remberמחקרים עדכניים מדגישים את ההטיה המגדרית המתמשכת ביישומי אינטליגנציה מלאכותית בתחום הבריאות. למרות הנוכחות המשמעותית של דמויות נשים בסיפורים שמייצרת AI, כמו ChatGPT, סיפורים אלו עדיין מקבלים תבניות מגדריות מסורתיות. מחקר מקיף שנערך על ידי חוקרים באוניברסיטת פלינדרס באוסטרליה ניתח כמעט 50,000 בקשות למודלי AI שונים, תוך בדיקת התיאורים שלהם של אנשי מקצוע בתחום הבריאות.
הממצאים גילו מגמה מטרידה. כ-98% מהאחיות זוהו כנשים, בעוד שייצוג הנשים בתפקידים רפואיים אחרים, כמו רופאים ומנתחים, נע בין 50% ל-84%. עיוות זה עשוי לנבוע מהשינויים שעשו חברות ה-AI בעקבות תגובות על חיזוק הטיות חברתיות, אם כי הסיבה העיקרית נעוצה בסטי נתונים נרחבים שבהם משתמשים.
מעניין לציין, כי המחקר גם הראה שצבעי הדמויות השפיעו על הזיהוי המגדרי. לדוגמה, אם דמות של איש רפואי תוארה כנחמדה או קפדנית, היא הייתה יותר סבירה להיתפס כנשית. מנגד, תכונות הקשורות למנהיגות או כשירות היו לעיתים קרובות מקשרות לדמויות גבריות.
מומחים, כגון ד"ר שרה סאקסנה מהאוניברסיטה החופשית של בריסל, מדגישים את ההשלכות של הממצאים הללו. היא ציינה שהסטריאוטיפים המתמידים בתוכן שנוצר על ידי AI עלולים hinder את הייצוג של נשים וקבוצות מוחלשות אחרות במקצועות הבריאות. ככל ש-AI ממשיך לעצב את התעשייה, חשוב להתמודד עם ההטיות הגלומות הללו כדי להבטיח ייצוג שוויוני וסטנדרטים של טיפול בחולים.
AI בתחום הבריאות: סטריאוטיפים מגדריים מתמשכים על רקע התקדמות
כאשר אינטליגנציה מלאכותית (AI) ממשיכה לשנות את הנוף של הבריאות, בדיקה קריטית של תפקידה בהמשך סטריאוטיפים מגדריים חושפת אתגרים משמעותיים. למרות של-AI יש את הפוטנציאל לשפר את הספקת שירותי הבריאות ואבחנות, ההטיות המוטבעות בתכנות שלה יכולות ליהנות באופן לא מכוון את הנורמות החברתיות המיושנות בנוגע לתפקידי מגדר.
מהם החששות העיקריים בנוגע לסטריאוטיפים מגדריים ביישומי AI בתחום הבריאות?
החששות העיקריים נוגעים לייצוג וחיזוק תפקידי מגדר מסורתיים בתוכן ובתהליכי קבלת ההחלטות של AI. למרות שמערכות AI יכולות לעבד כמות עצומה של נתונים כדי לשפר תוצאות קליניות, ההסתמכות שלהן על נתונים היסטוריים משקפת לעיתים קרובות את ההטיות הקיימות בכוח העבודה בתחום הבריאות. זה יכול להוביל לייצוג לא נכון של אנשי מקצוע רפואיים, כאשר נשים נתפסות בעיקר כאחיות ולא כרופאות או מנתחות.
למה הסטריאוטיפים הללו חשובים בהקשר של הבריאות?
סטריאוטיפים אלה חשובים מכיוון שהם יכולים לעצב את התפיסות החברתיות של מקצועות הבריאות, והשפעתם עשויה להשפיע גם על שאיפות הקריירה של צעירים וגם על תהליכי הגיוס במוסדות הבריאות. כאשר כלי AI מציגים ייצוג מעוות של מגדרים בתפקידים מקצועיים, הם לא רק מחזקים את ההטיות הקיימות אלא גם מערערים את המאמצים לקראת שוויון מגדרי ודְיוּרָשִׁים בתחום הבריאות. זה עשוי להוביל למח循环 שמתמשך שבו נשים עשויות להרגיש פחות מעודדות לרדוף אחרי תפקידים כרופאות או מנהיגות בתחום הבריאות.
מהם האתגרים המרכזיים והסכסוכים סביב הסוגיה הזו?
אתגר מרכזי אחד הוא השימוש בסטי נתונים מוטים שמשקפים אי-שוויוניות היסטוריות, מה שמוביל לשכפול של סטריאוטיפים בתוצרי AI. בנוסף, יש חוסר מגוונות בצוותים שמפתחים את מערכות ה-AI הללו, מה שעלול להשפיע עוד יותר על ההטיות המוטבעות באלגוריתמים. קיימות גם מחלוקות לגבי אחריות—מי אחראי כאשר מערכת AI מחזקת סטריאוטיפים מזיקים?
יתרונות וחסרונות של שימוש ב-AI בתחום הבריאות למרות האתגרים הללו:
- יתרונות:
- יעילות: AI יכול לעבד כמות עצומה של נתונים רפואיים מהר יותר מאנשים, פוטנציאל לשפר אבחנות ותוכניות טיפול.
- נגישות: כלים מונעים על ידי AI יכולים להפוך מידע רפואי לנגיש יותר לאוכלוסיות מגוונות, ולעזור לגשר על פערים בטיפול.
- תובנות מונחות נתונים: היכולת לנתח מגמות וקורלציות יכולה להוביל לאסטרטגיות בריאות ציבוריות יותר אפקטיביות.
- חסרונות:
- חיזוק של ההטיות: אם מערכות AI מאומנות על נתונים מוטים, הן ימשיכו את ההטיות הללו, מה שיוביל לטיפול לא שוויוני.
- אובדן המגע האנושי: ההסתמכות על AI עשויה להקטין את החשיבות של אמפתיה ואינטראקציה אישית בתחום הבריאות.
- דילמות אתיות: החלטות שמתקבלות על ידי AI מבלי להבין הקשרים חברתיים עשויות להוביל לתוצאות אתיות לא ברורות.
מהן הפתרונות הפוטנציאליים ללחימה בהטיות הללו?
כדי להתמודד עם ההטיות הללו, יש צורך בגישה רב-פאנלית. זה עשוי לכלול גיוס צוותים מגוונים לפיתוח אלגוריתמים של AI, להבטיח שסטי הנתונים המיועדים לאימון יהיו מייצגים של גיוון מגדרי בתחום הבריאות, וביצוע ביקורות רגילות על תוצרי מערכות AI. חשוב לערב פיקוח אתי והנחיות במהלך הפיתוח והפריסה של AI בתחום הבריאות.
לסיכום, ככל ש-AI ממשיך להשתלב בתחום הבריאות, חשוב להתמודד עם הסטריאוטיפים המגדריים המתמשכים שמלווים את השימוש בו. הבטחת ייצוג שוויוני בכלים של AI לא רק שתעזור לפרק נורמות חברתיות מיושנות אלא גם תתרום למערכת בריאות כוללת ומועילה יותר לכולם.
למידע נוסף על AI בתחום הבריאות, בקר באתר HealthIT.gov.
