Cercetătorii de la Cambridge susțin standarde etice în domeniul Inteligenței Artificiale care simulează persoane decedate
Cercetătorii de la Cambridge au emis un avertisment cu privire la riscurile psihologice asociate Inteligenței Artificiale care permite utilizatorilor să interacționeze cu persoanele dragi decedate. Aceste Inteligențe Artificiale, cunoscute sub numele de „Deadbots” sau „Griefbots”, emulează modelele lingvistice și trăsăturile de personalitate ale persoanelor decedate prin amprentele digitale. Unele companii deja oferă aceste servicii ca o formă inovatoare de prezență postumă, permisând unui nou domeniu al industriei digitale a vieții de apoi.
Experții în etica Inteligenței Artificiale de la Centrul Leverhulme pentru Viitorul Inteligenței de la Cambridge descriu trei scenarii de design pentru platformele care ar putea apărea în această în creștere „industrie digitală a vieții de apoi”. Ei subliniază consecințele potențiale ale unui design iresponsabil în Inteligența Artificială, pe care o descriu ca având un risc ridicat.
Potentialul Utilizări Neadecvate ale Chatbot-urilor cu IA
Studiul, publicat în jurnalul Philosophy & Technology, evidențiază potențialul ca companiile să facă reclamă discretă la produse utilizatorilor sub aparența unei persoane dragi decedate, sau să hărțuiască copiii insistând că un părinte decedat este încă „lângă tine”. Chatbot-urile care reproduc persoanele decedate pot fi folosite de companii pentru a trimite notificări nedorite, mementouri și actualizări, similare unui hanț pe digital.
Cei care găsesc inițial confort în deadbots pot ajunge să se simtă coplesiți de interacțiunile zilnice care devin o povară emoțională. În plus, aceștia s-ar putea dovedi a fi neputincioși în a opri o simulare cu IA dacă persoana iubită decedată ar fi semnat un contract pe termen lung cu un serviciu digital postum.
Dr. Katarzyna Nowaczyk-Basinska, unul dintre autorii studiului de la Centrul Leverhulme, a remarcat cât de complicat etic este acest sector al IA. Ea a accentuat respectarea demnității persoanei decedate, asigurându-se că aceasta nu este compromisă de motivele financiare ale serviciilor digitale postume. În același timp, un simulacru cu IA ar putea fi un cadou de despărțire pentru cei dragi care nu sunt pregătiți să-și proceseze durerea în acest mod. Drepturile atât ale contribuitorilor de date, cât și ale celor care interacționează cu serviciile cu AI post-mortem trebuie protejate.
Servicii Curente și Scenarii Ipotezate
Platforme pentru recreerea persoanelor decedate folosind IA sunt deja disponibile, cum ar fi „Project December”, care a început să folosească modelele GPT înainte de a dezvolta sistemele sale, și aplicații precum „HereAfter”. Servicii similare apar și în China. Lucrarea prezintă scenarii ipotetice, cum ar fi „Mannana”: un serviciu cu IA care creează un simulacru de bunic fără consimțământul „donatorului de date” (decendentul). Un alt scenariu implică o companie fictivă „Paren’t” care creează un bot pentru a ajuta un copil mic în procesul de doliu, dar IA-ul începe să dea răspunsuri confuze.
Cercetătorii recomandă restricții de vârstă pentru Deadbots și solicită „transparență semnificativă” pentru a asigura că utilizatorii sunt în permanență conștienți că interacționează cu AI. Acest lucru ar putea fi asemănător cu avertismentele actuale privind conținutul care ar putea provoca convulsii, de exemplu.
Cercetătorii îndeamnă echipele de design să priorizeze protocoalele de anulare, permițând potențialilor utilizatori să-și încheie emoțional relația cu aceste fantome digitale. Nowaczyk-Basinska adaugă: „Trebuie să începem să ne gândim acum la cum să reducem riscurile sociale și psihologice ale vieții digitale de apoi, deoarece tehnologia este deja aici”.
Principalele Întrebări Etice privind Serviciile Digitale Postume
O întrebare importantă este: Care sunt drepturile la intimitate ale persoanelor decedate și cum pot fi echilibrate acestea cu dorințele celor vii de a menține o conexiune? Îngrijorările privind intimitatea se extind nu doar la felul în care serviciile digitale postume folosesc datele, ci și la felul în care acestea ar putea preveni utilizarea incorectă de către terțe părți.
O altă întrebare se referă la impactul psihologic: Cum afectează aceste servicii procesul de doliu? Unii profesioniști în sănătate mentală susțin că aceste tehnologii ar putea perturba procesul natural de doliu, putând duce la un doliu prelungit sau la tulburări de doliu complicate.
Provocări Majore și Controverse
O provocare majoră este supravegherea reglementară. În prezent, există o lipsă de cadre legale clare care reglementează serviciile digitale postume. Acest lucru duce la incertitudine în ceea ce privește utilizarea etică a amprentei digitale a unei persoane și cât de mult aceste informații ar trebui să fie stocate și utilizate după moartea lor.
Consimțământul reprezintă o altă controversă. Cum pot persoanele decedate să-și dea consimțământul pentru utilizarea personalității lor digitale și în ce măsură poate fi considerat valid consimțământul pre-mortem după moarte?
Avantaje și Dezavantaje ale Serviciilor de Vieți de Apoi Digitale
Avantaje:
– Oferă confort rudelor îndurerate, permițându-le să păstreze legătura cu persoana decedată.
– Slujește ca memorial digital, păstrând memoria și moștenirea individului.
– Poate fi un instrument pentru educație și amintire pentru generațiile viitoare, învățând despre strămoșii lor prin experiențe interactive.
Dezavantaje:
– Ar putea prelungi procesul de doliu și împiedica parcursul de vindecare al rudelor îndurerate.
– Riscuri de încălcare a intimității și utilizare abuzivă a datelor personale după moartea persoanei.
– Exploatarea comercială potențială, în care prezența digitală este folosită pentru a promova produse.
– Îngrijorări etice cu privire la reprezentarea și precizia personalității simulate cu IA.
Link-uri Relevante
Pentru cei interesați să exploreze mai departe implicatiile etice ale tehnologiei și a IA, ar putea vizita site-urile organizațiilor dedicate acestor probleme:
– Institutul Viitorului Vieții
– Institutul pentru Cercetarea Inteligențelor Artificiale
– Fundatia Frontierei Electronice
– Uniunea Americană pentru Libertăți Civile
Rețineți că aceste link-uri duc la domeniile principale ale organizațiilor care abordează probleme mai largi legate de tehnologie și etică, unele dintre acestea putând avea legătură cu subiecte privind serviciile digitale postume și etica IA.