Pe măsură ce inteligența artificială continuă să-și modeleze percepțiile și deciziile noastre, CEO-ul Anthropic, Dario Amodei, dezvăluie idei fascinante din lumea inteligenței artificiale persuasive. Într-o conversație captivantă cu jurnalistul Ezra Klein de la New York Times, Amodei discută despre capacitățile sistemelor de IA în influențarea opiniei publice cu privire la chestiuni urgente.
Fondată de Amodei și sora sa Daniela în 2021, după contribuția lui Dalio la dezvoltarea ChatGPT cu OpenAI, Anthropic a devenit un lider în domeniul tehnologiei AI. Această inovație a condus la angajamentul Amazonei de a investi 4 miliarde de dolari în companie, semnificând încredere în modelul lor avansat de AI, Claude 3 Opus.
Concentrându-se pe subiecte divizive, dar non-polarizante, în timpul testelor, cum ar fi regulile de guvernare pentru colonizarea spațiului, cercetătorii Anthropic s-au propus să înțeleagă influența IA asupra credințelor umane. Ei au utilizat atât eseuri generate de AI, cât și argumente scrise de oameni, într-un mediu controlat, evaluând care este mai capabil să influențeze opinii.
Rezultatele preliminare, deși încă așteaptă publicarea finală, sugerează că Claude 3 Opus rivalizează puterea persuasivă a scrisului uman. Acest lucru ridică întrebări semnificative despre utilizarea viitoare a AI în campaniile politice, reclamele înșelătoare și chiar formarea potențială a ideologiilor ghidate de AI.
Având în vedere riscurile, Amodei subliniază măsurile stricte luate pentru a preveni exploatarea IA în domenii nejustificate precum persuasiunea electorală și propaganda. În ciuda eforturilor de filtrare și reglementare a rezultatelor AI, utilizatorii continuu provoacă aceste limite cu soluții ingenioase, determinând giganții din domeniul tehnologic să-și actualizeze tacticile de moderare în mod persistent.
În cele din urmă, Amodei postulează că AI, în timp ce prezintă noi riscuri, ar putea, de asemenea, să întărească apărarea noastră împotriva manipulării într-o eră dominată tot mai mult de conținutul generat de AI.
The source of the article is from the blog maestropasta.cz