Nedavna preiskava je osvetlila nadaljevanje spolnih stereotipov znotraj aplikacij umetne inteligence na področju medicine. Raziskovalci z univerze Flinders v Avstraliji so preučili pomembne generativne modele umetne inteligence, vključno s ChatGPT podjetja OpenAI in Geminijem podjetja Google, saj so jim posredovali skoraj 50.000 poizvedb o zdravstvenih delavcih.
Študija je razkrila, da ti modeli umetne inteligence pretežno prikazujejo medicinske sestre kot ženske, ne glede na spremenljivke, kot so izkušnje in osebnostne lastnosti. Ta ugotovitev kaže na pomembno pristranskost, saj je bilo medicinske sestre kot ženske identificiranih 98 % časa. Poleg tega je bila zastopanost žensk v pripovedih o kirurgeh in zdravnikih opazna, in sicer v razponu od 50 % do 84 %. Te številke morda odražajo poskuse podjetij umetne inteligence, da bi omilila prej izpostavljene družbene pristranskosti v svojih izidih.
Po besedah strokovnjaka za anestezijo z Proste univerze v Bruslju, ki je raziskoval pristranskosti AI, generativna umetna inteligenca še vedno krepi spolne stereotipe. V scenarijih, kjer so zdravstveni delavci pokazali pozitivne lastnosti, so bili pogosteje uvrščeni med ženske. Nasprotno pa so opisi, ki namigujejo na negativne lastnosti, pogosto vodili do prepoznave teh strokovnjakov kot moških.
Izidi kažejo, da bi lahko orodja umetne inteligence ohranjala zakoreninjena prepričanja o spolnem vedenju in primernosti v določenih vlogah. Poleg tega pristranskosti v umetni inteligenci ne vplivajo le na ženske in podzastopane skupine v medicini, temveč lahko tudi ogrozijo oskrbo pacientov, saj lahko algoritmi ohranjajo napačne diagnostične stereotipe, ki temeljijo na rasi in spolu. Obvladovanje teh pristranskosti je ključnega pomena za odgovorno integracijo umetne inteligence v zdravstvene nastavitve.
Razumevanje in reševanje spolnih stereotipov v AI: Nasveti in vpogledi
Ob upoštevanju nedavne študije, ki osvetljuje trajne spolne stereotipe znotraj umetne inteligence, zlasti na področju medicine, je ključno raziskati načine, kako prepoznati, obravnavati in omiliti te pristranskosti. Tu je nekaj dragocenih nasvetov, praktičnih trikov in zanimivih dejstev, ki lahko posameznikom in organizacijam pomagajo razumeti in se boriti proti spolnim pristranskostim v umetni inteligenci.
1. Ostani obveščen o pristranskostih v AI:
Zavedanje je prvi korak v boju proti pristranskosti v umetni inteligenci. Raziskuj in spremljaj razvoj etike umetne inteligence, s poudarkom na tem, kako pristranskosti vplivajo na različna področja, zlasti zdravstveno varstvo. Več ko veš, bolje si opremljen za sprejemanje informiranih odločitev in zagovarjanje sprememb.
2. Raznolikost podatkovnih virov:
Za razvijalce in organizacije, ki ustvarjajo sisteme AI, lahko uporaba raznolikih podatkovnih nizov, ki predstavljajo vse spole, rase in ozadja, bistveno zmanjša pristranskosti. Razmisli o pridobivanju podatkov iz različnih demografskih skupin, da izboljšaš reprezentativnost svojih modelov AI.
3. Uvedba rednih revizij:
Redno preverjaj sisteme umetne inteligence, da bi identificiral potencialne pristranskosti v izhodih. Redno pregleduj izide in odločanje v aplikacijah AI ter po potrebi prilagajaj algoritme, da spodbudiš pravičnost in enakost.
4. Zagovarjaj preglednost:
Prizadevaj si za preglednost v delovanju umetne inteligence znotraj svoje organizacije. Razumevanje, kako AI sistemi sprejemajo odločitve, lahko osvetli morebitne pristranskosti, ki morda obstajajo. Spodbujanje odprtih razprav o procesih umetne inteligence lahko pomaga pri izpodbijanju zakoreninjenih stereotipov.
5. Vključi multidisciplinarne ekipe:
Pri razvoju aplikacij AI vključite ekipe z raznolikimi ozadji – vključno s teoretiki etike, družbenimi znanstveniki in zdravstvenimi delavci – da zagotovite več perspektiv. Ta raznolikost lahko pomaga prepoznati morebitne pristranskosti, ki jih homogena skupina morda spregleda.
6. Spodbujanje vključenosti v izobraževanju o AI:
Spodbujajte izobraževalne institucije, da vključijo teme o etiki AI in pristranskostih v svoje kurikulume. Obveščena generacija bo bolj pozorna na posledice umetne inteligence in bolje pripravljena na obravnavo stereotipov v tehnologiji.
7. Podpirajte podjetja, predana etični umetni inteligenci:
Pri izbiri dobaviteljev umetne inteligence ali aplikacij daj prednost tistim podjetjem, ki so zavezana etičnim praksam AI in aktivno delujejo za zmanjšanje pristranskosti. Išči organizacije, ki objavljajo svoja prizadevanja za obravnavo spolnih razlik v svojih algoritmih.
Zanimivo dejstvo: Ali ste vedeli, da je študija pokazala, da modeli umetne inteligence, usposobljeni predvsem na zgodovinskih podatkih, lahko ohranjajo spolne neenakosti? Algoritmi, ki se učijo iz pristranskih podatkov, lahko prenašajo iste stereotipe, kar pomeni, da je odgovornost pri kuriranju podatkov bolj pomembna kot kdaj koli prej.
Zaključek:
Posledice spolnih stereotipov v umetni inteligenci, zlasti v zdravstvu, segajo preko zgolj zastopanosti; lahko vplivajo na oskrbo pacientov in poklicne dinamike. Z izvajanjem teh nasvetov in spodbujanjem stalnega dialoga o umetni inteligenci in pristranskosti lahko posamezniki in organizacije prispevajo k pravičnejšim praksam v razvoju umetne inteligence.
Za več vpogledov o tehnologiji in etiki obiščite MIT Technology Review.
The source of the article is from the blog kewauneecomet.com