Roman RemberNedavna istraživanja su istaknula nastavak rodnih stereotipa unutar aplikacija umjetne inteligencije u medicinskom području. Istraživači s Flinders University u Australiji proučili su istaknute generativne AI modele, uključujući OpenAI-ov ChatGPT i Googleov Gemini, hraneći ih s gotovo 50,000 upita o zdravstvenim djelatnicima.
Studija je otkrila da su ovi AI modeli pretežno prikazivali medicinske sestre kao žene, bez obzira na varijable poput iskustva i osobina ličnosti. OFinding sugerira značajnu pristranost, jer su medicinske sestre identificirane kao žene 98% vremena. Nadalje, zastupljenost žena u pripovijestima o kirurzima i liječnicima bila je značajna, krećući se od 50% do 84%. Ove brojke mogu odražavati pokušaje AI kompanija da ublaže prethodno istaknute društvene pristranosti u svojim izlazima.
Prema stručnjaku za anesteziju s Vojne slobodne sveučilišta u Bruxellesu koji je istraživao pristranosti AI-a, generativni AI i dalje podržava rodne stereotipe. U scenarijima gdje su zdravstveni djelatnici prikazivali pozitivne osobine, češće su bili kategorizirani kao žene. Nasuprot tome, izrazi koji sugeriraju negativne osobine često su rezultirali identifikacijom tih profesionalaca kao muškaraca.
Rezultati ukazuju da AI alati mogu održavati duboko ukorijenjene uvjerenja o rodnom ponašanju i prikladnosti unutar specifičnih uloga. Štoviše, pristranosti u AI ne utječu samo na žene i nedovoljno zastupljene skupine u medicini, već također mogu predstavljati rizik za njegu pacijenata, budući da algoritmi mogu perpetuirati pogrešne dijagnostičke stereotipe na temelju rase i spola. Rješavanje ovih pristranosti ključno je za odgovornu integraciju AI-a u zdravstvene okruženja.
Razumijevanje i suočavanje s rodnim stereotipima u AI: Savjeti i uvidi
U svjetlu nedavne studije koja ističe prisutne rodne stereotipe unutar umjetne inteligencije, posebno u medicinskom području, ključno je istražiti načine kako prepoznati, adresirati i umanjiti ove pristranosti. Evo nekoliko vrijednih savjeta, trikova i zanimljivih činjenica koje mogu pomoći pojedincima i organizacijama da razumiju i se bore protiv rodnih pristranosti u AI-u.
1. Ostanite informirani o pristranostima u AI-u:
Svijest je prvi korak u borbi protiv pristranosti u AI-u. Istražujte i pratite razvoj u etici AI-a, fokusirajući se na to kako pristranosti utječu na različita područja, posebno zdravstvo. Što više znate, bolje ste opremljeni za donošenje informiranih odluka i zalaganje za promjene.
2. Diversificirajte svoje izvore podataka:
Za programere i organizacije koje stvaraju AI sustave, korištenje raznolikih skupova podataka koji predstavljaju sve rodove, rase i pozadine može značajno smanjiti pristranosti. Razmotrite prikupljanje podataka iz različitih demografija kako biste poboljšali reprezentativnost vaših AI modela.
3. Implementirajte redovite revizije:
Provodite redovite revizije AI sustava kako biste identificirali potencijalne pristranosti u izlazima. Redovito pregledavajte rezultate i procese odlučivanja AI aplikacija te recalibrirajte algoritme gdje je to potrebno kako biste promicali pravednost i jednakost.
4. Zalažite se za transparentnost:
Pritiskajte za transparentnost u radu AI-a unutar svoje organizacije. Razumijevanje kako AI sustavi donose odluke može rasvijetliti bilo koju pristranost koja može postojati. Poticanje otvorenih rasprava o AI procesima može pomoći u suprotstavljanju ukorijenjenim stereotipima.
5. Uključite interdisciplinarne timove:
Prilikom razvoja AI aplikacija, angažirajte timove s raznolikim pozadinama – uključujući etičare, društvene znanstvenike i zdravstvene profesionalce – kako biste osigurali više perspektiva. Ova raznolikost može pomoći u prepoznavanju potencijalnih pristranosti koje homogena grupa može previdjeti.
6. Promicati uključivost u obrazovanju o AI:
Potičite obrazovne institucije da uključe teme o etici AI-a i pristranostima u svoje nastavne planove. Informirana generacija će biti savjesnija o implikacijama AI-a i bolje opremljena za rješavanje stereotipa u tehnologiji.
7. Podržite tvrtke koje se obavezuju na etički AI:
Kada birate AI dobavljače ili aplikacije, dajte prioritet onim tvrtkama koje su posvećene etičkim praksama AI-a i aktivno rade na minimiziranju pristranosti. Tražite organizacije koje objavljuju svoje napore za rješavanje rodnih nejednakosti u svojim algoritmima.
Zanimljiva činjenica: Jeste li znali da je istraživanje pokazalo da AI modeli koji su obučeni prvenstveno na povijesnim podacima mogu perpetuirati rodne nejednakosti? Algoritmi koji uče iz pristranih podataka mogu nositi iste stereotipe, što znači da je potreba za odgovornim prikupljanjem podataka važnija nego ikad.
Zaključak:
Implikacije rodnih stereotipa u AI-u, posebno unutar zdravstvene zaštite, idu izvan pukog predstavljanja; mogu utjecati na njegu pacijenata i profesionalne dinamike. Implementacijom ovih savjeta i poticanjem trajnog dijaloga o AI-u i pristranostima, pojedinci i organizacije mogu doprinijeti pravednijim praksama u razvoju AI-a.
Za više uvida o tehnologiji i etici, posjetite MIT Technology Review.
