OpenAI, vodeća tvrtka za umjetnu inteligenciju, objavila je stvaranje novog tima pod nazivom Tim za kolektivno usklađivanje, čiji je cilj prikupljanje javnog mišljenja kako bi utjecalo na ponašanje AI modela. Tim će raditi na dizajniranju sustava koji uključuju javne ulazne podatke i rješavaju različite izazove, poput digitalnog jaza, polarizacije, zastupljenosti različitih perspektiva i brige o budućnosti upravljanja umjetnom inteligencijom.
Kao dio svojih napora, OpenAI će surađivati s vanjskim savjetnicima i dodjeljivati timove, uključujući pokretanje pilot projekata kako bi implementirali prototipove dodijeljenih grantova kako bi usmjerili svoje AI modele. Tvrtka aktivno zaposljava istraživačke inženjere s različitim tehničkim pozadinama kako bi se pridružili Timu za kolektivno usklađivanje.
Ova inicijativa proizlazi iz javnog programa OpenAI-ja pokrenutog u svibnju, u kojem je dodijeljeno grantova vrijednih po 100.000 eura za podržavanje eksperimenata na temu “demokratskog utjecaja na AI” diljem svijeta. Program je imao za cilj uspostaviti demokratski proces za određivanje pravila kojih bi se AI sustavi trebali pridržavati.
OpenAI priznaje zabrinutost koju su izrazili neki sudionici u vezi s uključenošću AI-a u donošenje politika i ističe važnost transparentnosti u korištenju AI-a u demokratskim procesima. Sudionici u programu doživjeli su promjenu stava, pri čemu je mnogo njih postalo nadahnutije sposobnostima javnosti da doprinese vođenju AI-a kroz deliberativne rasprave.
Osim osnivanja Tima za kolektivno usklađivanje, OpenAI je također podijelio razvijeni kod sudionika programa grantova te je pružio sažetke njihovog rada. Ovaj korak doprinosi otvorenosti i transparentnosti u pristupu OpenAI-ja razvoju AI-a.
Inkorporiranjem javnog mišljenja i stvaranjem sustava koji odražavaju različite perspektive, OpenAI ima za cilj osigurati da su AI modeli usklađeni s društvenim vrijednostima i izbjegavaju pristranosti ili neželjene posljedice. Tim za kolektivno usklađivanje predstavlja predanost OpenAI-ja odgovornom uključivanju javnosti u oblikovanje AI tehnologije.
The source of the article is from the blog queerfeed.com.br