Cambridgesští výzkumníci hájí etické normy v oblasti umělé inteligence simulující zemřelé
Cambridgeské výzkumníky vydali varování ohledně psychologických rizik spojených s umělou inteligencí, která umožňuje uživatelům interakci se svými ztracenými blízkými. Tyto umělé inteligence, známé jako „Mrtví roboti“ či „Traumatizátoři“, emulují jazykové vzorce a osobnostní rysy zemřelých skrze jejich digitální stopu. Některé společnosti již nabízejí tyto služby jako nový druh digitální přítomnosti po smrti, čímž vzniká nový průmysl digitálního pozemského života.
Odborníci na etiku v oblasti umělé inteligence z Centra pro budoucnost inteligence na univerzitě v Cambridge popisují tři designové scénáře pro platformy, které by se mohly objevit v rostoucím průmyslu „digitálního pozemského života“. Upozorňují na potenciální důsledky nezodpovědného designu v oblasti umělé inteligence, který považují za velké riziko.
Možné zneužití chatbotů s umělou inteligencí
Studie zveřejněná v časopise Filozofie a technologie zdůrazňuje potenciál společností tajně propagovat produkty uživatelům pod záminkou ztraceného blízkého, nebo obtěžovat děti tím, že trvají na tom, že zemřelý rodič je stále „s vámi“. Chatboti simulující zemřelé mohou být použiti společnostmi k odesílání nechtěných oznámení, upomínek a aktualizací, podobně jako digitální pronásledování.
Ti, kdo nachází útěchu ve ztracených robotech, se mohou nakonec cítit přehlceni denními interakcemi, které se stávají emocionálním břemenem. Navíc mohou být bezmocni, pokud mají jejich zesnulí blízcí podepsán dlouhodobý smluvní vztah s pozemskou digitální službou.
Dr. Katarzyna Nowaczyk-Basinska, jedna ze spoluautorů studie z Centra Leverhulme, poukazuje na etický problém v této oblasti umělé inteligence. Upozorňuje na dodržování důstojnosti zemřelých tak, aby nebyla ohrožena finančními motivy pozemských digitálních služeb. Zároveň by mohl být AI simulakrum dárkem pro blízké nepřipravené zpracovat svůj smutek tímto způsobem. Práva jak datových přispěvatelů, tak interaktantů s pozemskými AI službami musí být chráněna.
Aktuální služby a hypotetické scénáře
Platformy pro vytváření zemřelých pomocí umělé inteligence jsou již dostupné, jako je například „Projekt Prosinec“, který začal využívat GPT modely před tím, než vyvíjel své systémy, a aplikace jako „TadyNaposled“. Podobné služby se objevují i v Číně. Článek představuje hypotetické scénáře, jako je „Mannana“: AI službu, která vytváří simulakrum dědečka bez souhlasu „datového dárce“ (zemřelého). Další scénář zahrnuje fiktivní společnost „Barvátsko“, která vytváří robota, který má pomoci malému dítěti s procesem truchlení, ale AI nakonec začne produkovat zmatené odpovědi.
Výzkumníci doporučují věková omezení pro Traumatizátory a volají po „významné transparentnosti“, aby uživatelé byli průběžně informováni o tom, že interagují s umělou inteligencí. To by mohlo být podobné současným varováním o obsahu, který může vyvolat záchvaty.
Výzkumníci naléhají na týmy designérů, aby dávali prioritu protokolům pro zrušení, které by umožnily potenciálním uživatelům emocionálně uzavřít svůj vztah s těmito digitálními duchy. Nowaczyk-Basinska dodává: „Musíme začít teď přemýšlet o tom, jak zmírnit společenská a psychologická rizika digitálních pozemských životů, protože technologie je již tady.“
Klíčové etické otázky kolem služeb digitálního pozemského života
Jedna důležitá otázka zní: Jaká jsou práva na ochranu soukromí zemřelých a jak lze sladit tyto práva se žádostmi živých o udržení spojení? Obavy o soukromí se nevztahují pouze k tomu, jak digitální pozemské služby využívají data, ale také k tomu, jak mohou zabránit zneužití ze strany třetích stran.
Další otázka se týká psychologického dopadu: Jak tyto služby ovlivňují proces truchlení? Někteří odborníci na duševní zdraví tvrdí, že tyto technologie mohou narušit přirozený proces truchlení, což může vést k prodlouženému truchlení nebo složité truchlení.
Klíčové výzvy a kontroverze
Hlavní výzvou je dohled regulačních orgánů. V současné době chybí jasné právní rámce pro regulaci digitálních služeb pro pozemský život. To vede k nejistotě ohledně etického využívání digitální stopy někoho a jak dlouho tyto informace mohou být uchovávány a používány po jeho smrti.
Souhlas je další kontroverzí. Jak mohou mrtví souhlasit s použitím své digitální podoby a do jaké míry lze považovat předsmrtelný souhlas za platný po smrti?
Výhody a nevýhody služeb digitálního pozemského života
Výhody:
– Poskytuje útěchu truchlícím tím, že jim umožňuje zůstat v kontaktu se zemřelým.
– Slouží jako digitální památník, zachovávající paměť a odkaz jednotlivců.
– Může být nástrojem pro vzdělání a vzpomínání pro budoucí generace, učení se o předcích prostřednictvím interaktivních zážitků.
Nevýhody:
– Může prodloužit truchlení a bránit léčebné cestě truchlících.
– Riziko narušení soukromí a zneužití osobních dat po smrti.
– Potenciální komerční využití, kdy je digitální přítomnost použita k propagaci produktů.
– Etické obavy týkající se zobrazení a přesnosti AI simulované osobnosti.
Příslušné odkazy
Pro ty, kteří se chtějí podrobněji zabývat etickými důsledky technologie a umělé inteligence, můžete navštívit webové stránky organizací věnujících se těmto otázkám:
– Institut budoucnosti života
– Institut výzkumu strojové inteligence
– Elektronická fronta pro svobody
– Americká unie občanských svobod
Upozorňujeme, že tyto odkazy vedou na hlavní domény organizací, které se zabývají širšími otázkami týkajícími se technologie a etiky, některé z nich se mohou týkat témat digitálních pozemských služeb a etiky umělé inteligence.