Roman RemberNesen veikta izmeklēšana ir uzsvērusi dzimumu stereotipu turpināšanos mākslīgā intelekta lietojumos medicīnas jomā. Flinders Universitātes pētnieki Austrālijā rūpīgi izpētīja izplatītākos ģeneratīvos AI modeļus, tostarp OpenAI ChatGPT un Google Gemini, barojot tos ar gandrīz 50 000 vaicājumu par veselības aprūpes profesionāļiem.
Pētījums atklāja, ka šie AI modeļi galvenokārt attēloja māsu sieviešu lomā, neatkarīgi no tādiem mainīgajiem kā pieredze un personības iezīmes. Šis atklājums norāda uz ievērojamu aizspriedumu, jo māsas tika identificētas kā sievietes 98% gadījumu. Turklāt sieviešu pārstāvniecība naratīvos par ķirurgiem un ārstiem bija ievērojama, sasniedzot no 50% līdz 84%. Šie skaitļi var atspoguļot AI uzņēmumu centienus mazināt iepriekš izceltos sociālos aizspriedumus to rezultātos.
Saskaņā ar anestēzijas speciālistu Briseles Brīvās universitātes pētnieku, kurš pētījis AI aizspriedumus, ģeneratīvais AI joprojām nostiprina dzimumu stereotipus. Gadījumos, kad veselības aprūpes profesionāļi izrādīja pozitīvas iezīmes, tie biežāk tika klasificēti kā sievietes. Savukārt apraksti, kas norādīja uz negatīvām iezīmēm, bieži rezultējās ar šo profesionāļu identificēšanu kā vīriešus.
Rezultāti norāda, ka AI rīki var saglabāt nostiprinātas uzskatus par dzimumu uzvedību un piemērotību noteiktās lomās. Turklāt aizspriedumi AI ne tikai ietekmē sievietes un nepietiekami pārstāvētas grupas medicīnā, bet arī var apdraudēt pacientu aprūpi, jo algoritmi var iemūžināt kļūdainus diagnostikas stereotipus, pamatojoties uz rasi un dzimumu. Šo aizspriedumu risināšana ir būtiska atbildīgai AI integrācijai veselības aprūpes iestādēs.
Izpratne un cīņa pret dzimumu stereotipiem AI: padomi un ieskati
Ņemot vērā neseno pētījumu, kas uzsver pastāvīgus dzimumu stereotipus mākslīgā intelekta jomā, īpaši medicīnas jomā, ir svarīgi izpētīt, kā atpazīt, risināt un mazināt šos aizspriedumus. Šeit ir daži vērtīgi padomi, dzīves triki un interesanti fakti, kas var palīdzēt indivīdiem un organizācijām izprast un cīnīties pret dzimumu aizspriedumiem AI.
1. Sekojiet līdzi aizspriedumiem AI:
Apziņa ir pirmais solis cīņā pret aizspriedumiem AI. Izpētiet un sekojiet līdzi attīstībai AI ētikā, koncentrējoties uz to, kā aizspriedumi ietekmē dažādas jomas, īpaši veselības aprūpi. Jo vairāk jūs zināt, jo labāk sagatavoti esat pieņemt apzinātus lēmumus un iestāties par pārmaiņām.
2. Diversificējiet savus datu avotus:
Izstrādātājiem un organizācijām, kas veido AI sistēmas, izmantojot dažādas datu kopas, kas pārstāv visus dzimumus, rases un fona, var būtiski samazināt aizspriedumus. Apsveriet iespēju iegūt datus no dažādām demogrāfiskajām grupām, lai uzlabotu jūsu AI modeļu pārstāvētību.
3. Veiciet regulāras auditus:
Veiciet regulāras AI sistēmu auditus, lai identificētu potenciālos aizspriedumus izejās. Regulāri pārskatiet AI lietojumu rezultātus un lēmumu pieņemšanas procesus un pielāgojiet algoritmus, kad nepieciešams, lai veicinātu taisnīgumu un līdzsvaru.
4. Aizstāviet caurskatāmību:
Iestājieties par caurskatāmību AI darbībā savā organizācijā. Izpratne par to, kā AI sistēmas pieņem lēmumus, var izgaismot jebkādus aizspriedumus, kas var pastāvēt. Atvērtas diskusijas par AI procesiem var palīdzēt izaicināt ievalkātos stereotipus.
5. Iesaistiet multidisciplināras komandas:
Izstrādājot AI lietojumus, iesaistiet komandas ar dažādiem foniem – tai skaitā ētikas speciālistus, sociālos zinātniekus un veselības aprūpes profesionāļus – lai sniegtu dažādas perspektīvas. Šī daudzveidība var palīdzēt identificēt potenciālos aizspriedumus, ko viendabīga grupa varētu nepamanīt.
6. Veiciniet iekļaušanu AI izglītībā:
Veiciniet izglītības iestādes iekļaut tēmas par AI ētiku un aizspriedumiem mācību programmās. Informēta paaudze būs apdomīgāka par AI sekām un labāk sagatavota risināt stereotipus tehnoloģijās.
7. Atbalstiet kompānijas, kas ir apņēmušās ētiskai AI:
Izvēloties AI piegādātājus vai lietotnes, dodiet priekšroku uzņēmumiem, kas ir apņēmušies ievērot ētiskas AI prakses un aktīvi strādāt, lai samazinātu aizspriedumus. Meklējiet organizācijas, kas publicē savus centienus risināt dzimumu atšķirības savos algoritmos.
Interesants fakts: Vai zinājāt, ka pētījums atklāja, ka AI modeļi, kas apmācīti galvenokārt uz vēsturisku datu pamata, var pastiprināt dzimumu nevienlīdzību? Algoritmi, kas mācās no aizspriedumainiem datiem, var turpināt iepriekš minētos stereotipus, tādējādi nepieciešamība pēc atbildīgas datu izvietošanas ir svarīgāka nekā jebkad agrāk.
Secinājums:
Dzimumu stereotipu sekas AI, īpaši veselības aprūpē, pārsniedz tikai pārstāvniecību; tās var ietekmēt pacientu aprūpi un profesionālās dinamikas. Izpildot šos padomus un veicinot pastāvīgu dialogu par AI un aizspriedumiem, indivīdi un organizācijas var veicināt taisnīgākas prakses AI izstrādē.
Vairāk ieskatu par tehnoloģiju un ētiku var iegūt, apmeklējot MIT Technology Review.
