Umjetna inteligencija (AI) postala je integralni dio naše svakodnevice, utječući na sve, od financijskih odluka do interakcija na društvenim mrežama. Tehnologija umjetne inteligencije, poput odgovora koje pružaju chatbotovi ili mogućnosti viđene u naprednim sustavima poput ChatGPT-a, često ostaje nezamijećena. Međutim, ispod površine njezine percipirane neutralnosti leži složena mreža društvenih implikacija, uključujući različite pristranosti temeljene na rasi, kulturi i spolu.
Nedavno izvješće Ujedinjenih naroda, objavljeno 7. ožujka, otkrilo je stereotipe ukorijenjene u alatima za obradu prirodnog jezika koji su osnovni za današnje popularne platforme generativne umjetne inteligencije. Izvješće je istaknulo da AI izlazi često repliciraju spolne pristranosti. Istraga je otkrila diskriminatorne obrasce kada je AI zamoljen da stvara priče o pojedincima, dodjeljujući muškarcima prestižnije uloge poput profesora, inženjera i liječnika, dok su žene često bile svedene na stereotipne pozicije poput kuharica, kućnih pomoćnica ili čak prostitutki.
Stručnjaci u području naglašavaju da pristranosti AI-a odražavaju one prisutne u društvu – podaci iz kojih uči inherentno su pod utjecajem postojećih društvenih nejednakosti. Mailén García, sociologinja i suosnivačica NGO-a Data Gender, naglašava da AI zahtijeva podatke, a često su ti podaci inherentno seksistički. Ovaj koncept bio je katalizator za Data Gender, organizaciju u kojoj García, zajedno s Ivana Feldfeber i Yasmín Quirogom, analizira podatke kroz rodnu prizmu, nastojeći riješiti informacijske nejednakosti i podzastupljenost.
Jedan od njihovih zapaženih projekata, Aymurai, prikuplja i čini dostupnim podatke o nasilju nad ženama izvedene iz sudske prakse. Njihov napor započeo je unutar pravosudnog sustava Autonomnog grada Buenos Aires, s nadama da će proširiti ovaj alat na različite pravosudne odjele. Poseban naglasak bio je na sposobnosti AI-a da anonimizira osjetljive informacije u sudskim dokumentima, omogućavajući temeljitija istraživanja o rodnom nasilju.
Stručnjaci zagovaraju raznolike i reflektirajuće timove za razvoj softvera AI-a, ističući da su se većina dizajna povijesno temeljila na homogenoj grupi – bijelih muškaraca sa sjevera globusa, često udaljenih od osobnih iskustava diskriminacije. Ovaj nedostatak raznolikosti može rezultirati tehnologijama koje ne uzimaju u obzir rodne perspektive i šire društvene potrebe.
Razgovor o AI proteže se izvan tehnoloških izazova do društvenih i etičkih razmatranja, ističući važnost namjerne regulacije i intervencije kako bi se osigurao nepristrani i pravedan razvoj i korištenje AI-a.
Ključno pitanje: Koje su ključne izazovi ili polemike povezane s AI-jem koji odražava rodne i kulturne stereotipe?
Ključni izazovi i polemike:
– Pristanak podataka: AI sustavi često se obučavaju na povijesnim podacima koji odražavaju prošle odluke i društvene norme koje su možda bile pristrane.
– Nedostatak raznolikosti u razvoju AI-a: Timovi za razvoj AI-a često nedostaju rodne i kulturne raznolikosti, što dovodi do proizvoda koji ne uzimaju u potpunosti u obzir širok spektar ljudskog iskustva.
– Transparentnost algoritama: AI sustavi mogu biti složeni i nedostajati transparentnosti, što otežava otkrivanje i ispravljanje pristranosti.
– Regulatorni okviri: Često nedostaje jasna, provediva regulatorna infrastruktura za vođenje etičkog razvoja i korištenja AI-a.
Prednosti i nedostaci suočavanja s pristranostima AI-a:
Prednosti:
– Veća pravednost: Napore usmjerene na rješavanje pristranosti u AI-u mogu rezultirati pravednijim ishodima za sve korisnike.
– Širi tržišni doseg: Proizvodi koji su fer i inkluzivni mogu doseći širi tržište resonirajući s raznolikim korisnicima.
– Inovacija: Fokus na eliminiranje pristranosti može potaknuti inovaciju i kreativno rješavanje problema u razvoju AI-a.
Nedostaci:
– Povećana složenost: Suočavanje s pristranošću može dodati složenost u razvojni proces AI-a, potencijalno povećavajući troškove i vrijeme do lansiranja na tržište.
– Nepoznati ishodi: Utvrđivanje što se smatra nepristranim može biti komplicirano, a napori za odpravak pristranosti u AI-u ne dovode uvijek do jasnih ili očekivanih rezultata.
– Stalno evoluirajući standardi: Standardi za pravednost i pristranosti mijenjaju se s vremenom, zahtijevajući kontinuirane napore i prilagodljivost u AI sustavima.
Za više informacija i novosti o temi pristranosti u AI, evo nekoliko relevantnih poveznica na glavna područja:
– Ujedinjeni narodi: Više informacija o istraživanjima i inicijativama UN-a o AI-u i pristranostima.
– Data Gender: Ova organizacija usredotočena je na rodne podatke i može imati relevantne informacije povezane s siječnjacima rodova i AI-jem.
Važno je napomenuti da, međutim, nisu pružene izravne poveznice na određene podstranice ili izvješća, u skladu s uputama za izbjegavanje upotrebe bilo čega osim glavnih URL-ova domena.
The source of the article is from the blog macnifico.pt