Cambridžští výzkumníci prosazují etické standardy pro umělou inteligenci, která simuluje zemřelé
Cambridžští výzkumníci vydali varování ohledně psychologických rizik spojených s umělou inteligencí, která uživatelům umožňuje interakci se svými ztracenými blízkými. Tyto umělé inteligence, známé jako ‚Deadbots‘ nebo ‚Griefbots‘, emulují jazykové vzory a osobnostní rysy zemřelého prostřednictvím jejich digitálních stop. Některé společnosti již nabízejí tyto služby jako nový způsob posthumózní přítomnosti, což otevírá nový průmysl digitálního posmrtného života.
Odborníci na etiku v oblasti umělé inteligence z Centra pro budoucnost inteligence na Cambridgeské univerzitě popisují tři scénáře návrhu pro platformy, které by mohly vzniknout v této rostoucí ‚digitální požitkové smrti‘. Upozorňují na potenciální důsledky nepříčetného návrhu v oblasti umělé inteligence, který popisují jako vysoké riziko.
Možné zneužití AI chatbotů
Studie, publikovaná v časopise Philosophy & Technology, zdůrazňuje potenciál společností, které mohou skrytě propagovat produkty uživatelům pod záminkou ztraceného blízkého nebo obtěžovat děti tím, že trvají na tom, že zemřelý rodič je stále ‚s vámi‘. Chatboti reprodukující zemřelé mohou být společnostmi využity k odesílání nechtěných oznámení, připomenutí a aktualizací podobně jako digitální pronásledování.
Ti, kteří našli úvodní útěchu v deadbotech, se mohou nakonec cítit přetížení denními interakcemi, které se staly emocionálním břemenem. Navíc mohou být bezmocní zastavit AI simulaci, pokud jejich zesnulý blízký podepsal dlouhodobou smlouvu s posmrtnou digitální službou.
Jedna z autorek studie z Centra Leverhulme, Dr. Katarzyna Nowaczyk-Basinska, upozornila na etické pole minové v této oblasti umělé inteligence. Důrazně zdůraznila respektování důstojnosti zemřelých, zajistění, aby nebyla ohrožena finančními motivy posmrtních digitálních služeb. Zároveň však může AI simulakrum být rozloučením pro blízké nepřipravené zpracovat svůj smutek tímto způsobem. Práva jak datových přispěvatelů, tak interagujících s posmrtními AI službami musí být chráněna.
Aktuální služby a hypotetické scénáře
Platformy na vytvoření zemřelých pomocí umělé inteligence jsou již dostupné, jako například ‚Project December‘, který začal využívat modely GPT před vyvinutím svých systémů, a aplikace jako ‚HereAfter‘. Podobné služby se objevují i v Číně. Studie představuje hypotetické scénáře, jako je „Mannana“: služba AI, která vytváří simulakrum dědečka bez souhlasu ‚datového dárce‘ (zemřelého). Další scénář zahrnuje fiktivní společnost „Paren’t“, která vytváří bota k pomocí malému dítěti s procesem smutku, ale AI nakonec začne produkovat zmatené reakce.
Výzkumníci doporučují věková omezení pro Deadboty a volají po „smysluplné transparentnosti“ k zajištění toho, aby uživatelé byli průběžně informováni o tom, že interagují s AI. To by mohlo být podobné současným varováním o obsahu, který by mohl vyvolat záchvaty, například.
Výzkumníci naléhají na týmy návrhářů, aby dali prioritu protokolům zrušení, které umožní potenciálním uživatelům emocionálně uzavřít svůj vztah s těmito digitálními duchy. Nowaczyk-Basinska dodává: „Musíme nyní začít přemýšlet o tom, jak minimalizovat společenská a psychologická rizika digitálních posmrtných životů, protože technologie již tady je.“
Klíčové etické otázky týkající se služeb digitálního života po smrti
Jedna důležitá otázka zní: Jaká jsou soukromí práva zemřelých a jak mohou být vyvážena s touhou žijících udržet spojení? Obavy o soukromí se netýkají pouze toho, jak digitální služby posmrtného života využívají data, ale i toho, jak mohou zabránit zneužití třetími stranami.
Další otázka se týká psychologického dopadu: Jak tyto služby ovlivňují smuteční proces? Někteří odborníci na duševní zdraví argumentují, že tyto technologie mohou narušit přirozený proces smutku, potenciálně vedouc k prodlouženému smutku nebo složitému poruchám truchlení.
Klíčové výzvy a kontroverze
Hlavní výzvou je regulační dohled. V současné době chybí jasné právní rámce pro digitální služby posmrtného života. To vede k nejistotě ohledně etického využití digitální stopy někoho a jak dlouho by měla být tato informace po jeho smrti uchovávána a využívána.
Souhlas je další kontroverzí. Jak mohou mrtví souhlasit se využitím své digitální podoby a do jaké míry lze považovat zkušenostní souhlas před smrtí za platný po smrti?
Výhody a nevýhody služeb digitálního života po smrti
Výhody:
– Poskytuje útěchu pozůstalým tím, že jim umožňuje zůstat ve spojení se zemřelými.
– Slouží jako digitální památník, zachovávající paměť a odkaz jednotlivců.
– Může sloužit jako nástroj pro vzdělání a připomínání pro budoucí generace, které se prostřednictvím interaktivních zážitků učí o předcích.
Nevýhody:
– Může prodloužit proces truchlení a narušit hojivou cestu pozůstalých.
– Hrozby zneužití soukromí a zneužití osobních údajů po smrti.
– Potenciální komerční zneužití, kde je digitální přítomnost použita k propagaci produktů.
– Etické obavy ohledně zastoupení a přesnosti simulované osobnosti AI.
Příslušné odkazy
Pro ty, kteří se chtějí podrobněji zabývat etickými důsledky technologie a umělé inteligence, mohou navštívit webové stránky organizací, které se těmito otázkami zabývají:
– Future of Life Institute
– Machine Intelligence Research Institute
– Electronic Frontier Foundation
– American Civil Liberties Union
Upozorňujeme, že tyto odkazy směřují na hlavní domény organizací, které se zabývají širšími problémy spojenými s technologiemi a etikou, některé z nich mohou mít dojem na témata služeb digitálního života po smrti a etiku umělé inteligence.