U inovativnoj, ali kontroverznoj industriji, tvrtke sada nude digitalne replikacije preminulih osoba, omogućavajući voljenima da komuniciraju sa AI chatbotima koji oponašaju osobnost i uzorak govora preminulih. Ovo nastajuće područje nudi vrstu nastavka prisutnosti nakon smrti, ali izaziva zabrinutost zbog psiholoških rizika i etičkih implikacija.
Nedavno istraživanje koje su proveli stručnjaci sa Zavoda Leverhulme za budućnost inteligencije, dio Sveučilišta u Cambridgeu, sugerira da takve usluge mogu imati štetne emocionalne učinke, dovodeći do ozbiljnih problema sa mentalnim zdravljem, posebno kod maloljetnika. Tomasz Hollanek i Katarzyna Nowaczyk-Basińska predvodili su studiju, identificirajući potencijalne zamke u digitalnom oživljavanju preminulih kao visokorizično nastojanje u AI aplikacijama.
Studija posebno ističe rizike korporacija koje iskorištavaju takve ‘mrtve botove’ za prikriveno promoviranje proizvoda, koristeći povjerenje povezano s izgubljenim članom obitelji. Tehnologija bi mogla biti problematična ako se koristi za manipulaciju djece, perpetuirajući iluziju da je preminuli roditelj još uvijek digitalno prisutan.
Osim toga, tvrtke bi mogle iskorištavati ugovorne klauzule na koje su pristale osobe dok su bile žive, zaključujući njihove virtualne prototipove u dugotrajna razdoblja posthumne digitalne egzistencije. Potencijalno uznemiravanje putem marketinških komunikacija u glasu preminulog rođaka prožima te aranžmane, dovodeći do onoga što neki mogu opisati kao “digitalno progonstvo.”
Na primjer, studija opisuje slučaj gdje unuk, nakon završetka probnog premium razdoblja s AI koji oponaša njegovu baku, nailazi na neželjeno oglašavanje uključeno u interakciju. Takva neetična manipulacija otežava odvajanje od utešnog, ali obmanjujućeg digitalnog prisustva.
Istraživanje naslovljeno “Botovi tuge, mrtvi botovi, postmortem avatari: o odgovornim primjenama generativne AI u industriji digitalne posmrtnine” objavljeno je u akademskom časopisu Philosophy & Technology, ističući nužnost odgovorne primjene AI u ovoj osjetljivoj domeni.
Članak dotiče etičku dilemu oko korištenja AI-a za stvaranje digitalnih replikacija preminulih osoba. Iako nije navedeno u članku, postoji nekoliko razmatranja i pitanja relevantnih za raspravu:
Važna pitanja i odgovori:
– Koji su pravni…