Изкуственият интелект (ИИ) е бил поздравен като потенциален инструмент за идентифициране на признаци на депресия чрез анализ на социалните медии. Въпреки това недавно проучване разкрива загрижаща различие в способността на моделите на ИИ да открият депресия при различни расови групи. Докато моделите на ИИ показаха обещаващи резултати в идентифицирането на сигнали за депресия при бели американци, те бяха значително по-малко ефективни, когато бяха приложени към чернокожи индивиди. Това проучване подчертава важността на включването на разнообразни расови и етнически данни при обучението на модели на ИИ за здравни задачи.
Учените използваха „готов за употреба“ инструмент на ИИ, за да проучат езика, използван в публикациите в социалните медии на 868 доброволци, включително равен брой чернокожи и бели възрастни с подобни характеристики по отношение на възраст и пол. Всички участници също попълниха валидирана анкета, често използвана в здравните заведения, за скрининг на депресия.
Предишни изследвания показаха, че лицата, които често използват местоимения от първо лице (като „аз“, „мен“ или „моите“) и определени категории думи, включително самонакърняващи изрази, са по-изложени на риск от депресия. Все пак новото изследване откри, че тези асоциации в езика се отнасят само за бели лица. „Аз-разговор“ или самофокусиране, самонакърняване, самокритика и усещането, че се чувстваш чужденец, не бяха значими показатели за депресия при чернокожите индивиди.
Авторите на проучването изразиха изненада от липсата на обобщимост на тези асоциации в езика между расовите групи. Техният доклад, публикуван в PNAS (Секцията на Националната академия на науките), изразява загриженост за пренебрегването на расата в предишната работа по оценка на менталните заболявания базирани на езика.
Важно е да се отбележи, че социалните медии само не могат да бъдат използвани за диагностициране на депресия. Въпреки това те могат да допринесат за оценката на риска за отделни лица или групи. Идентифицирането на модели в употребата на езика може да предостави отговори за психичното здраве на общностите, което потенциално може да помогне на здравните работници да се справят по-ефективно с предизвикателствата на психичното здраве.
Разбира се, потенциалните приложения на ИИ в менталното здраве са многобройни. В предишно изследване от същия изследователски екип, анализът на езика в социалните медии беше използван за оценка на менталното здраве в общностите по време на пандемията от COVID-19. Освен това, при пациенти със злоупотреба на вещества, езиковите модели, указващи депресия в социалните мрежи, се доказаха като полезни за предоставяне на ценни отговори за вероятността от отказ от лечение и рецидив.
Изправянето на различието в ефективността на моделите на ИИ при различни расови групи е от съществено значение за осигуряване на справедливи услуги за психично здраве. Бъдещите проучвания следва да пъхтат включителността на данните, като въвеждат разнообразни расови и етнически групи, за да развият модели на ИИ, които предоставят точни и надеждни резултати за всеки.
Често задавани въпроси (ЧЗВ)
Могат ли моделите на ИИ точно да открият депресия чрез анализ на социалните медии?
Моделите на ИИ показват обещаващи резултати в идентифицирането на показатели за депресия, като анализират модели в употребата на езика в публикациите в социалните медии. Важно е обаче да се отбележи, че социалните медии само не могат да бъдат използвани за диагностициране на депресия.
Какво разкри новото проучване за ефективността на моделите на ИИ при различни расови групи?
Проучването показа, че моделите на ИИ бяха над три пъти по-малко предиктивни за депресия при черните лица в сравнение с белите лица, при използване на данни от социалните медии. Това подчертава необходимостта от включване на разнообразни расови и етнически данни при обучението на модели на ИИ за ментално-здравни приложения.
Какви бяха значимите асоциации в езика за депресията в проучването?
Проучването откри, че асоциациите в езика като „аз-разговор“ (самофокусиране), самонакърняване, самокритика и чувството да се чувства като чужденик, бяха само показатели за депресия при белите лица, не и при черните лица.
Как социалните медии могат да допринесат за оценката на психичното здраве?
Данните от социалните медии могат да допринесат за оценката на риска за отделни лица или групи, предоставяйки отговори за психичното здраве на общностите. Те могат да бъдат ценен инструмент, който помага да се справят по-ефективно с предизвикателствата на психичното здраве.
Какви са потенциалните приложения на ИИ в менталното здраве?
Изкуственият интелект може да помогне за оценката на менталното здраве в общностите, проследяване на влиянието от събития като пандемията от COVID-19 и предоставяне на отговори за вероятността от отказ от лечение и рецидив при пациенти със зависимост.
Източник: Reuters
The source of the article is from the blog lanoticiadigital.com.ar