Cercetătorii au descoperit limitări remarcabile în marile modele de limbaj, inclusiv cele create de Google și ChatGPT, în special în ceea ce privește exprimarea reală a empatiei. Aceste sisteme de AI par să simuleze empatia în loc să o trăiască cu adevărat, prelungind-o adesea fără discriminare, chiar și atunci când aceasta nu ar fi potrivită.
Andrea Cuadra, care a condus inițiativele de cercetare, subliniază importanța acestei constatări – evidențiind interacțiunile din ce în ce mai numeroase între oameni și modelele de AI, într-o lipsă de reguli care să ghideze dezvoltarea acestora. Fără controale adecvate, avansul necontrolat ar putea avea repercusiuni grave.
Într-o serie de experimente, echipa de cercetare a încercat să evalueze răspunsurile AI-ului la personalități generate cu douăsprezece variabile intercalate. Aceste identități fabricate au primit răspunsuri empate constante care nu corespundeau neapărat cu meritul.
Mai mult, acest studiu a combinat date din cercetări anterioare care au evaluat reacțiile chatbot-urilor și ale modelelor mari la probleme de sănătate mentală, hărțuire și violență. Datele cumulative sugerează că instrumentele de AI se luptă să transmită empatie.
Utilizatorii rămân cu incertitudini în ceea ce privește înțelegerea emoțională a AI-ului. Tehnologia nu ajută la procesarea experiențelor utilizatorilor, ceea ce ridică întrebări cu privire la sinceritatea empatiei exprimate. La fel de îngrijorător este modul în care AI-ul evaluează cine merită compasiunea și momentul potrivit pentru aceasta. Prin urmare, este dificil de imagizat creșterea viitoare a acestei tehnologii fără a stabili anumite limite.
Simularea empatiei de către sistemele AI a ridicat numeroase întrebări importante și provocări cheie:
Întrebări importante și răspunsuri:
– Poate AI-ul să înțeleagă și să trăiască cu adevărat emoțiile umane? În prezent, AI-ul nu poate trăi cu adevărat emoții. Poate simula empatia pe baza unor răspunsuri programate și modele învățate din date, dar nu are conștiință sau experiențe emoționale.
– Care sunt implicatiile sistemelor AI care nu pot distinge când empatia este potrivită? AII care nu pot distinge corect când să exprime empatie ar putea agrava situațiile, oferind răspunsuri insensibile sau nepotrivite atunci când este necesară o înțelegere reală.
– Cum putem diminua riscul ca empatia simulată a AI-ului să aibă impacte negative? Un abordare este să stabilim linii directoare clare și cadrul pentru dezvoltarea AI care să ia în considerare implicatiile etice. Implicarea eticienilor, psihologilor și a altor părți interesate este crucială pentru a ghida dezvoltarea AI-ului responsabil.
Provocări cheie:
– Dezvoltarea liniilor directoare etice: Există o lipsă de reglementări cuprinzătoare care să guverneze aspectele etice ale AI, cum ar fi empatia și luarea deciziilor.
– Limitări tehnice: Tehnologia AI actuală are limitări innascute în înțelegerea contextului și a emoțiilor umane complexe.
– Utilizare greșită a tehnologiei: Există riscul ca empatia simulată să fie folosită în moduri manipulative, de exemplu, în campanii de marketing sau politice.
Controverse:
– Exista un dezbate asupra responsabilității morale a creatorilor de AI atunci când sistemele lor nu reușesc să emuleze corect empatia sau să provoace accidental daune.
– Apar îngrijorări legate de confidențialitate atunci când sistemele AI care încearcă să exprime sau să interpreteze emoții ar putea avea nevoie de acces la date personale sensibile.
Avantaje:
– AI-ul poate oferi suport imediat și consistent, cum ar fi în service-ul pentru clienți sau contexte terapeutice de bază, fără oboseală.
– Poate gestiona cantități uriașe de date și oferi insight-uri utile pe care oamenii le-ar putea trece cu vederea.
Dezavantaje:
– Sistemele AI pot da iluzia înțelegerii, ceea ce poate fi înșelător sau dăunător în contexte sensibile.
– Dependența excesivă de AI în interacțiunile empate ar putea diminua aptitudinile sociale umane și inteligența emoțională.
Pentru mai multe informații despre cercetările în desfășurare și dialogul referitor la AI, etică și tehnologie empatică, puteți consulta sursele de încredere următoare:
– Asociația pentru Lingvistică Computatională
– Asociația Americană pentru Inteligență Artificială
– Institutul de Inginerie Electrică și Electronică
– Asociația pentru Computație
Fiecare dintre aceste organizații este implicată în cercetare și discuții despre AI, etică și impactul tehnologiei asupra societății. Ele nu abordează în mod specific limitările empatiei și eticii AI-ului, dar oferă un context mai larg pentru înțelegerea provocărilor și discuțiilor din acest domeniu.
The source of the article is from the blog smartphonemagazine.nl