Användning av AI för att analysera sociala medier för depression: Att avslöja rasliga skillnader

Artificiell intelligens (AI) har hyllats som ett potentiellt verktyg för att identifiera tecken på depression genom analys av sociala medier. En nylig studie visar emellertid en oroande disparitet i förmågan hos AI-modeller att upptäcka depression hos olika etniska grupper. Medan AI-modeller visade lovande resultat i att identifiera depressionssignaler hos vita amerikaner var de avsevärt mindre effektiva när de tillämpades på svarta individer. Denna studie understryker vikten av att inkludera mångfaldig etnisk data vid träning av AI-modeller för hälso-relaterade uppgifter.

Forskarna använde en ”färdig” AI-verktyg för att undersöka språket som användes i sociala medier av 868 frivilliga, inklusive ett lika antal svarta och vita vuxna som delade liknande egenskaper avseende ålder och kön. Alla deltagare genomförde även en validerad enkät som vanligtvis används inom vården för att screena för depression.

Tidigare forskning hade indikerat att individer som frekvent använder första person-pronomen (såsom ”jag”, ”mig” eller ”min”) och vissa kategorier av ord, inklusive självnedvärderande termer, löper en högre risk för depression. Den nya studien upptäckte emellertid att dessa språkliga associationer endast gällde för vita individer. ”Jag-fokuserad” språk, självnedvärdering, självkritik och känslan av att vara en outsider var inte signifikanta indikatorer på depression för svarta individer.

Författarna till studien uttryckte förvåning över bristen på generaliserbarhet hos dessa språkliga associationer för olika etniska grupper. Deras rapport, publicerad i PNAS (the Proceedings of the National Academy of Sciences), reflekterar oro över försummelsen av ras i tidigare arbete kring språkbaserad bedömning av mental ohälsa.

Det är viktigt att notera att sociala medier-data ensamma inte kan användas för att diagnostisera depression. Det kan dock bidra till riskbedömningar för individer eller grupper. Att identifiera mönster i språkanvändningen kan ge insikter kring den mentala hälsan inom samhällen och potentiellt hjälpa vårdgivare att effektivare hantera mentala hälsoutmaningar.

Självfallet är de potentiella tillämpningarna av AI inom mentalhälsa omfattande. I en tidigare studie av samma forskningsteam användes språkanalys på sociala medieplattformar för att utvärdera mental hälsa hos samhällen under COVID-19-pandemin. Dessutom har språkmönster som indikerar depression på sociala medier visat sig erbjuda värdefulla insikter kring sannolikheten för avbrott i behandling och återfall för patienter med substansanvändningsstörningar.

Att åtgärda dispariteten i effektiviteten hos AI-modeller för olika etniska grupper är avgörande för att säkerställa en rättvis mental hälsovård. Framtida forskning bör prioritera inklusivitet av data genom att inkludera olika etniska grupper för att utveckla AI-modeller som ger korrekta och tillförlitliga resultat för alla.