OpenAI a dezvăluit planurile de a înființa o echipă de cercetători și ingineri care vor implica publicul în modelarea comportamentului modelelor lor de inteligență artificială. Cunoscută sub numele de Echipa de Alineare Colectivă, obiectivul acesteia este de a dezvolta sisteme care integrează aportul publicului pentru a ghida modelele de inteligență artificială, abordând provocări precum discrepanțele digitale, grupurile polarizate, reprezentarea diversității și problemele privind guvernarea IA.
Echipa va colabora cu consultanți externi și beneficiari de granturi pentru a testa încorporarea prototipurilor de granturi în modelele OpenAI. Compania caută activ ingineri de cercetare cu diferite background-uri tehnice pentru a li se alătura echipei și a contribui la această inițiativă.
Această anunțare vine în urma programului public anterior al OpenAI, lansat în mai anul trecut, care a acordat 100.000 de euro pentru zece experimente care explorează „intrările democratice în inteligența artificială.” Scopul programului, așa cum a fost declarat de OpenAI, a fost de a promova un proces democratic de stabilire a regulilor pe care sistemele de inteligență artificială ar trebui să le urmeze.
Într-un recent dezvoltare, OpenAI a eliberat codul creat de echipele participante la programul de granturi, precum și rezumate ale muncii lor. Pe parcursul programului, unii participanți și-au exprimat preocupări cu privire la utilizarea IA în luarea deciziilor politice și au susținut transparența în aplicarea acesteia în cadrul proceselor democratice. După sesiunile de deliberare, multe echipe au raportat o creștere a optimismului în ceea ce privește capacitatea publicului de a contribui la îndrumarea IA.
Eforturile OpenAI de a implica publicul în procesele decizionale legate de IA promovează transparența și includerea. Prin integrarea perspectivelor diverse, Echipa de Alineare Colectivă își propune să se asigure că modelele de IA sunt aliniate cu valorile societății și să minimizeze eventualele tendințe discriminatorii. Această abordare inovativă permite OpenAI să se îndrepte către un model de guvernare al IA mai democratic și responsabil, condus colectiv de cercetători, ingineri și publicul larg.
