Umjetna inteligencija (AI) je hvaljena kao potencijalni alat za identificiranje znakova depresije analizom društvenih medija. Međutim, nedavna studija otkriva zabrinjavajuću disparitet u sposobnosti AI modela da detektira depresiju kod različitih rasnih skupina. Dok su AI modeli pokazali obećanje u identificiranju signala depresije kod bijelih Amerikanaca, bili su značajno manje učinkoviti kada su primijenjeni na Crne osobe. Ova studija ističe važnost uključivanja raznolikih rasnih i etničkih podataka prilikom treniranja AI modela za zadatke vezane uz zdravstvo.
Istraživači su koristili “off the shelf” AI alat kako bi analizirali jezik korišten u postovima društvenih medija od 868 volontera, uključujući jednaku brojku crnih i bijelih odraslih osoba koje su imale slične karakteristike u pogledu dobi i spola. Svi sudionici također su ispunili validirani upitnik koji se često koristi u zdravstvenim ustanovama za screening depresije.
Prethodna istraživanja su pokazala da osobe koje često koriste zaimenice prvog lica (kao što su “ja”, “mene”, ili “moje”) i određene kategorije riječi, uključujući i samokritične termine, imaju veći rizik od depresije. Međutim, nova studija je otkrila da ova povezanost jezika vrijedi samo za bijele osobe. “I-talk” ili fokusiranost na sebe, samodepreciacija, samokritika i osjećaj izolacije nisu bili značajni pokazatelji depresije za Crne osobe.
Autori studije su izrazili iznenađenje nedostatkom generalizabilnosti ovih jezičnih asocijacija među rasnim grupama. Njihovo izvješće, objavljeno u PNAS (Proceedings of the National Academy of Sciences), odražava zabrinutost zbog zanemarivanja rasne komponente u prethodnim istraživanjima temeljenim na jeziku u procjeni mentalnih poremećaja.
Važno je napomenuti da podaci s društvenih medija sami po sebi ne mogu biti korišteni za dijagnosticiranje depresije. Ipak, oni mogu pridonijeti procjeni rizika za pojedince ili grupe. Identificiranje uzoraka u korištenju jezika može pružiti uvide u mentalno zdravlje zajednica, potencijalno pomažući pružateljima zdravstvene skrbi da se učinkovitije nose s izazovima mentalnog zdravlja.
Naravno, potencijalne primjene AI-a u mentalnom zdravlju su široke. U prethodnoj studiji istog istraživačkog tima, analiza jezika na društvenim medijima korištena je za evaluaciju mentalnog zdravlja unutar zajednica tijekom pandemije COVID-19. Dodatno, za pacijente s poremećajima vezanim uz zlouporabu tvari, jezični obrasci koji ukazuju na depresiju na društvenim medijima dokazano su pružali vrijedne uvide u vjerojatnost odustajanja od liječenja i recidiva.
Rješavanje dispariteta u učinkovitosti AI modela među rasnim skupinama ključno je za osiguravanje jednakopravne skrbi u području mentalnog zdravlja. Buduća istraživanja trebala bi prioritetno uključivati podatke različitih rasnih i etničkih skupina kako bi razvila AI modele koji pružaju točne i pouzdane rezultate za sve.
Često postavljana pitanja (FAQ)
The source of the article is from the blog exofeed.nl