O investigație recentă a evidențiat continuarea stereotipurilor de gen în aplicațiile inteligenței artificiale din domeniul medical. Cercetătorii de la Universitatea Flinders din Australia au analizat modele AI generative proeminente, inclusiv ChatGPT de la OpenAI și Gemini de la Google, alimentându-le cu aproape 50.000 de întrebări despre profesioniștii din domeniul sănătății.
Studiul a relevat că aceste modele AI au prezentat predominant asistentele medicale ca fiind femei, indiferent de variabile precum experiența și trăsăturile de personalitate. Această constatare sugerează un bias semnificativ, întrucât asistentele medicale au fost identificate ca fiind femei în 98% din cazuri. În plus, reprezentarea femeilor în narațiunile despre chirurgi și medici a fost notabilă, variind între 50% și 84%. Aceste cifre pot reflecta încercări din partea companiilor de AI de a atenua biasurile sociale evidențiate anterior în produsele lor.
Conform unui specialist în anestezie de la Universitatea Liberă din Bruxelles care a cercetat biasurile din AI, AI generative continuează să întărească stereotipurile de gen. În scenarii în care profesioniștii din domeniul sănătății prezentau trăsături pozitive, erau mai frecvent categorisiți ca fiind femei. În schimb, descriptorii care sugerează trăsături negative duceau adesea la identificarea acestor profesioniști ca fiind bărbați.
Rezultatele indică faptul că instrumentele AI ar putea menține credințe adânc înrădăcinate cu privire la comportamentul și adecvarea de gen în anumite roluri. În plus, biasurile din AI nu afectează doar femeile și grupurile subreprezentate în medicină, ci pot prezenta și riscuri pentru îngrijirea pacienților, deoarece algoritmii pot perpetua stereotipuri de diagnostic eronate bazate pe rasă și gen. Abordarea acestor biasuri este crucială pentru integrarea responsabilă a AI în mediile de sănătate.
Înțelegerea și combaterea stereotipurilor de gen în AI: Sfaturi și perspective
Având în vedere studiul recent care subliniază stereotipurile de gen persistente în inteligența artificială, în special în domeniul medical, este esențial să explorăm modalitățile de a recunoaște, aborda și atenua aceste biasuri. Iată câteva sfaturi valoroase, trucuri de viață și fapte interesante care pot ajuta indivizii și organizațiile să înțeleagă și să combată biasurile de gen în AI.
1. Rămâneți informat despre biasurile din AI:
Conștientizarea este primul pas în combaterea biasurilor din AI. Cercetați și urmăriți evoluțiile în etica AI, concentrându-vă pe modul în care biasurile afectează diferite domenii, în special sănătatea. Cu cât știți mai multe, cu atât sunteți mai bine pregătiți să luați decizii informate și să militați pentru schimbare.
2. Diversificați sursele de date:
Pentru dezvoltatorii și organizațiile care creează sisteme AI, utilizarea seturilor de date diverse care reprezintă toate genurile, rasele și medii poate reduce semnificativ biasurile. Luați în considerare obținerea de date din diverse demografii pentru a îmbunătăți reprezentativitatea modelelor dvs. AI.
3. Implementați audite regulate:
Efectuați audite regulate ale sistemelor AI pentru a identifica posibile biasuri în rezultate. Revizuiți periodic rezultatele și procesele de decizie ale aplicațiilor AI și recalibrați algoritmii acolo unde este necesar pentru a promova echitatea și corectitudinea.
4. Promovați transparența:
Insistați pe transparența operațiunilor AI în cadrul organizației dvs. Înțelegerea modului în care sistemele AI iau decizii poate evidenția orice biasuri care pot exista. Încurajarea discuțiilor deschise despre procesele AI poate ajuta la contestarea stereotipurilor adânc înrădăcinate.
5. Implicați echipe multidisciplinare:
Atunci când dezvoltați aplicații AI, angajați echipe cu fundaluri diverse, inclusiv eticieni, oameni de știință sociali și profesioniști din domeniul sănătății, pentru a oferi perspective multiple. Această diversitate poate ajuta la identificarea potențialelor biasuri pe care un grup omogen le-ar putea trece cu vederea.
6. Promovați incluziunea în educația despre AI:
Încurajați instituțiile educaționale să includă subiecte despre etica AI și biasuri în curricula lor. O generație informată va fi mai conștientă de implicațiile AI și mai pregătită să abordeze stereotipurile în tehnologie.
7. Susțineți companiile angajate în AI etic:
Atunci când alegeți furnizori sau aplicații AI, prioritizați acele companii care sunt angajate în practici AI etice și care lucrează activ pentru a minimiza biasurile. Căutați organizații care publică eforturile lor de a aborda disparitățile de gen în algoritmii lor.
Fapt interesant: Știați că un studiu a constatat că modelele AI antrenate predominant pe date istorice pot perpetua inegalitățile de gen? Algoritmii care învață din date biasate pot duce mai departe aceleași stereotipuri, ceea ce face ca necesitatea unei curățări responsabile a datelor să fie mai crucială ca niciodată.
Concluzie:
Implicțiile stereotipurilor de gen în AI, în special în domeniul sănătății, se extind dincolo de simpla reprezentare; ele pot influența îngrijirea pacienților și dinamicile profesionale. Prin implementarea acestor sfaturi și promovarea unei discuții continue despre AI și bias, indivizii și organizațiile pot contribui la practici mai echitabile în dezvoltarea AI.
Pentru mai multe perspective despre tehnologie și etică, vizitați MIT Technology Review.
The source of the article is from the blog shakirabrasil.info