Kunstig intelligens-chatbots vinn framdrift, med teknologigigantar som investerer tungt i desse konversasjonsbota for ei myriad bruksområde. Plattformer som OpenAI’s ChatGPT og Google’s Gemini har fleire funksjonar – frå å søke data til å skrive e-postar eller hjelpa språklærande.
Sjølv om det er utbreidd tru, er ikkje kunstig intelligens feilfri. Feil er dessverre vanlege, med desse teknologiane til tider som vidarefører diskriminerande synspunkt. Sidan chatbots lærer frå nettinnhald, er risikoen for å produsere skjeive eller reint feilaktige opplysningar høg, særleg om sensitive tema.
Forskarar studerer desse AI-verktøya for å betre empatien i bota som interagerer med ulike grupper. Eit samarbeid frå akademikarar ved Cornell University, Olin College og Stanford University avslørte avgrensingar i botes evne til å handsama kompliserte tema. Studien involverte 65 deltakarar og hadde bekymringsfulle funn: fordommar i AI-modellar førte til negative dommar om grupper som homofile og muslimer, og til og med ein tendens til å oppmoda om ekstreme ideologiar som nasisme.
Likevel kan desse chatbotane framleis ha positive bruksområde, som å gje helsestellstøtte eller å supplere utdanning. Til tross for fella, trur vitskapsfolk at med betre opplæring kunne AI effektivt hjelpa innan desse områda.
Studien, med tittelen «Illusjonen av empati? Merknader om framvisingar av følelsar i menneske-maskin-interaksjon,» vil bli presentert i full detalj på den føreståande CHI ’24-konferansen. Her vil innovative utviklingar innan menneske-maskin-interaksjon vere hovudfokus i diskusjonane.