OpenAI oznámilo plány na zriadenie tímu výskumníkov a inžinierov, ktorí zapoja verejnosť do formovania správania svojich modelov AI. Tím známy ako Collective Alignment má za cieľ vyvinúť systémy, ktoré zahrnujú verejné názory na riadenie modelov AI a riešia výzvy ako digitálny rozdelenie, polarizované skupiny, reprezentáciu rozmanitosti a obavy týkajúce sa riadenia AI.
Tím bude spolupracovať s externými poradcami a príjemcami grantov pri skúšobnom začlenení prototypov grantov do modelov OpenAI. Spoločnosť aktívne hľadá výskumných inžinierov s rôznorodými technickými skúsenosťami, ktorí sa pridajú k tímu a prispejú k tejto iniciatíve.
Toto oznámenie nasleduje za verejným programom OpenAI, ktorý bol spustený v máji minulého roka a bol zameraný na udeľovanie grantov vo výške 100 000 eur na desať experimentov zameraných na „demokratický prístup k AI“. Cieľom programu bolo, ako uviedol OpenAI, podporovať demokratický proces pri stanovovaní pravidiel, ktoré by mali AI systémy nasledovať.
V súvislosti s nedávnym vývojom OpenAI uvoľnilo kód vytvorený účastníckymi tímami v grantovom programe, ako aj súhrny ich práce. Počas programu niektorí účastníci vyjadrili obavy o používanie AI pri tvorbe politík a navrhovali transparentnosť pri jej aplikácii v rámci demokratických procesov. Po konaní rozprávnych stretnutí oznámilo mnoho tímov, že zaznamenali zvýšený optimizmus voči schopnosti verejnosti prispievať k usmernovaniu AI.
Snahy OpenAI zapojiť verejnosť do procesov rozhodovania v súvislosti s AI propagujú väčšiu transparentnosť a inkluzivitu. Zahrnutím rôznorodých perspektív sa tím Collective Alignment snaží zabezpečiť, aby sa modely AI zhodovali so spoločenskými hodnotami a minimalizovali potenciálne skreslenia. Táto inovatívna metóda umožňuje OpenAI prejsť k demokratickejšiemu a zodpovednejšiemu modelu riadenia AI, ktorý je kolektívne vedený výskumníkmi, inžiniermi a verejnosťou.
The source of the article is from the blog karacasanime.com.ve