Az innovatív, ugyanakkor ellentmondásos iparágban a cégek most már elhunyt személyek digitális replikációit kínálják, amely lehetővé teszi a szeretteknek, hogy AI chatbotokkal lépjenek kapcsolatba, amelyek tükrözik a elhunyt személyek személyiségét és beszédmintáit. Ez az újonnan létrejött terület lehetőséget kínál egyfajta folyamatos jelenlét elérésére a sír túloldalán, azonban aggodalmakat vet fel a pszichológiai kockázatok és az etikai vonatkozások miatt.
A Cambridge Egyetemhez tartozó Leverhulme Intelligencia Jövőjének Központja szakértői által vezetett friss kutatás szerint ilyen szolgáltatások káros érzelmi hatásokkal járhatnak, és súlyos mentális egészségügyi problémákhoz vezethetnek, különösen a kiskorúak körében. A tanulmányt Tomasz Hollanek és Katarzyna Nowaczyk-Basińska vezette, akik az elhunytak digitális feltámasztásának potenciális buktatóit az AI alkalmazások magas kockázatú kezdeményezésének azonosításával állapították meg.
A tanulmány különösen kiemeli azokat a kockázatokat, amelyek abból adódnak, ha a cégek a „halottbotokat” kihasználják arra, hogy rejtetten piacra dobják a termékeiket, kihasználva az egy elveszített családtaggal kapcsolatos bizalmat. A technológia problémát jelenthet, ha gyerekeken keresztül arra szolgál, hogy a gyermek ébren tartja az illúziót, hogy egy elhunyt szülő továbbra is jelen van digitálisan.
Emellett a cégek kihasználhatják azokat a szerződéses záradékokat, amelyeket az egyének életében elfogadtak, és azon keresztül hosszabb időre rögzíthetik az elhunyt virtuális megfelelőjüket a halál utáni digitális létezés idejére. A halott rokonnak a „digitálisan kísért” úgy írhatjuk le, hogy potenciális zaklatás éri a marketingkommunikációban egy halott rokon hangja által vezérelve.
Például a tanulmány egy olyan esetet említ, ahol egy unoka, amikor lejár egy prémium próbaidőszak egy ő nagymamáját utánozó AI chatbottal, nem kívánt hirdetéssel találja magát szembesülve az interakciókban. Ez az etikátlan manipuláció megnehezíti az elcsatlakozást a kellemes, de csalóka digitális jelenlétből.
A „Sírbotok, Halottbotok, Halottutánzók: a Generatív AI Felelős Alkalmazásairól a Digitális Utóélet Iparágában” című kutatást a Philosophy & Technology nevű szakfolyóiratban jelentették meg, hangsúlyozva a felelős AI telepítés szükségességét ebben az érzékeny területen.
A cikk kitér az etikai dilemma köré, amely az AI használatával összefüggésben merül fel a halott személyek digitális replikációinak létrehozásával kapcsolatban. Bővebben nem tárgyalva a cikkben számos fontos szempont és kérdés merül fel, amelyek fontosak a megbeszélés szempontjából.