Roman RemberNeseniai atliktas tyrimas parodė, kad dirbtinio intelekto taikymuose medicinos srityje toliau egzistuoja lyties stereotipai. Australijos Flinders universiteto mokslininkai nagrinėjo žinomus generatyvinius DI modelius, įskaitant OpenAI ChatGPT ir Google Gemini, pateikdami jiems beveik 50 000 klausimų apie sveikatos priežiūros specialistus.
Tyrimas atskleidė, kad šie DI modeliai daugiausia vaizduoja slaugytojas kaip moteris, nepriklausomai nuo tokių veiksnių kaip patirtis ir asmenybės bruožai. Šis atradimas rodo reikšmingą šališkumą, kadangi slaugytojai buvo identifikuojami kaip moterys 98% atvejų. Be to, moterų atstovavimas naratyvuose apie chirurgus ir gydytojus buvo didelis, svyruojantis nuo 50% iki 84%. Šie skaičiai gali atspindėti DI įmonių pastangas sumažinti anksčiau pabrėžtus socialinius šališkumus savo išvestyse.
Pagal anestetiko specialisto iš Briuselio laisvojo universiteto, tyrinėjusio DI šališkumą, teigimus, generatyvinis DI vis dar stiprina lyties stereotipus. Situacijose, kuriose sveikatos priežiūros specialistai demonstravo teigiamus bruožus, jie dažniau buvo klasifikuojami kaip moterys. Priešingai, apibūdinimai, sugeriantys neigiamus bruožus, dažnai lėmė, kad šie specialistai buvo identifikuojami kaip vyrai.
Rezultatai rodo, kad DI įrankiai gali palaikyti įsišaknijusias nuostatas dėl lyties elgesio ir tinkamumo tam tikrose rolėse. Be to, DI šališkumai ne tik veikia moteris ir nepakankamai atstovaujamas grupes medicinoje, bet gali kelti grėsmių pacientų priežiūrai, kadangi algoritmai gali tęsti klaidingus diagnostinius stereotipus, remdamiesi rase ir lytimi. Šių šališkumų sprendimas yra svarbus atsakingam DI integravimui sveikatos priežiūros srityse.
Supratimas ir kovojimas su lyties stereotipais DI: patarimai ir įžvalgos
Atsižvelgiant į neseniai atliktą tyrimą, kuriame pabrėžiami nuolatiniai lyties stereotipai dirbtiniame intelekte, ypač medicinos srityje, būtina ieškoti būdų, kaip atpažinti, spręsti ir mažinti šiuos šališkumus. Čia pateikiami kai kurie vertingi patarimai, gyvenimo gudrybės ir įdomūs faktai, kurie gali padėti asmenims ir organizacijoms suprasti ir kovoti su lyties šališkumais DI.
1. Būkite informuoti apie DI šališkumus:
Žinios yra pirmas žingsnis kovoti su šališkumu DI. Tyrinėkite ir sekite DI etikos tendencijas, ypač kaip šališkumai veikia įvairias sritis, ypač sveikatos priežiūrą. Kuo daugiau žinote, tuo geriau galėsite priimti informuotus sprendimus ir skatinti pokyčius.
2. Įvairovinkite duomenų šaltinius:
Kuriant DI sistemas, naudojant įvairius duomenų rinkinius, kurie atspindi visus lyčius, rases ir socialinę kilmę, galima žymiai sumažinti šališkumus. Apsvarstykite galimybę įsigyti duomenų iš įvairių demografinių grupių, kad pagerintumėte savo DI modelių reprezentatyvumą.
3. Įgyvendinkite reguliarias auditų procedūras:
Atlikite reguliarius DI sistemų auditų, kad identifikuotumėte potencialius šališkumus išvestyse. Reguliariai peržiūrėkite DI taikymų rezultatus ir sprendimo procesus bei perkalibruokite algoritmus, kai to reikia, kad skatintumėte teisingumą ir lygybę.
4. Skatinkite skaidrumą:
Reikalaukite skaidrumo DI operacijose savo organizacijoje. Supratimas, kaip DI sistemos priima sprendimus, gali atskleisti bet kokius egzistuojančius šališkumus. Skatinant atviras diskusijas apie DI procesus, galima iššūkis įsišaknijusiems stereotipams.
5. Įtraukkite multidisciplinines komandas:
Kuriant DI programėles, įtraukite komandas su įvairiomis patirtimis, įskaitant etikus, socialinius mokslininkus ir sveikatos priežiūros specialistus, kad gautumėte daugialypes perspektyvas. Ši įvairovė gali padėti atpažinti potencialius šališkumus, kuriuos homogene grupė galėtų nepastebėti.
6. Skatinkite įtrauktį DI švietime:
Skatinkite švietimo institucijas įtraukti temas apie DI etiką ir šališkumus į savo mokymo programas. Informuota karta bus labiau sąmoninga apie DI pasekmes ir geriau pasiruošusi spręsti stereotipus technologijose.
7. Remti įmones, kurios įsipareigoja etiniam DI:
Renkantis DI tiekėjus ar programėles, teikite pirmenybę toms įmonėms, kurios įsipareigoja etinio DI praktikoms ir aktyviai dirba siekdamos sumažinti šališkumus. Ieškokite organizacijų, kurios skelbia savo pastangas spręsti lyčių skirtumus savo algoritmuose.
Įdomus faktas: Ar žinojote, kad tyrimas parodė, kad DI modeliai, daugiausia mokomi remiantis istorine informacija, gali palaikyti lyties nelygybę? Algoritmai, kurie mokosi iš šališkų duomenų, gali tęsti tuos pačius stereotipus, todėl atsakingas duomenų kūrimas yra svarbesnis nei bet kada.
Išvada:
Lyties stereotipų pasekmės DI, ypač sveikatos priežiūros srityje, yra didesnės nei vien tik atstovavimas; jie gali įtakoti pacientų priežiūrą ir profesines dinamikas. Įgyvendinant šiuos patarimus ir skatinant tęstinę diskusiją apie DI ir šališkumą, asmenys ir organizacijos gali prisidėti prie teisingesnių praktikų DI plėtros srityje.
Daugiau įžvalgų apie technologijas ir etiką rasite MIT Technology Review.
