OpenAI, popredná spoločnosť zameraná na AI, oznámila vytvorenie nového tímu s názvom Kolektívne zarovnanie, ktorý si kladie za cieľ zapojiť verejný názor do správania ich modelov AI pomocou crowdsourcingu. Tím bude pracovať na návrhu systémov, ktoré budú zahŕňať verejné vstupy a riešiať rôzne problémy, ako je digitálna priepasť, polarizácia, zastúpenie rozmanitosti a obavy o budúcnosť správy AI.
V rámci svojich aktivít OpenAI spolupracuje s externými poradcami a grantovými tímami, vrátane spustenia pilotných projektov na implementáciu grantových prototypov do riadenia ich modelov AI. Spoločnosť aktívne hľadá výskumných inžinierov s rôznorodými technickými zázemiami, ktorí by sa mohli pripojiť k tímu Kolektívneho zarovnania.
Táto iniciatíva vychádza z verejného programu OpenAI, ktorý bol spustený v máji a v rámci neho si každý získal grant vo výške 100 000 eur na podporu experimentov s „demokratickými vstupmi do AI“ po celom svete. Program mal za cieľ vytvoriť demokratický proces pre stanovenie pravidiel, ktoré by mali nasledovať systémy AI.
OpenAI si uvedomuje obavy, ktoré niektorí účastníci vyjadrili ohľadom zapojenia AI do tvorby politiky a zdôrazňuje dôležitosť transparentnosti pri využívaní AI v demokratických procesoch. Účastníci programu zaznamenali zmenu názoru, pričom mnohí prejavili viac nádeje vo schopnosť verejnosti prispieť k riadeniu AI prostredníctvom deliberatívnych diskusií.
Okrem vytvorenia tímu Kolektívneho zarovnania OpenAI tiež zverejnil kód vyvinutý účastníkmi grantového programu a poskytol súhrny ich práce. Týmto krokom prispieva OpenAI k svojmu záväzku voči otvorenosti a transparentnosti vo svojom prístupe k vývoju AI.
OpenAI si vytváraním systémov, ktoré zohľadňujú verejný názor a odrážajú rôznorodé perspektívy, klade za cieľ zabezpečiť, aby modely AI boli v súlade s hodnotami spoločnosti a aby sa predišlo skresleniam alebo nežiaducim dôsledkom. Tím Kolektívneho zarovnania predstavuje odhodlanie OpenAI zodpovedne zaradiť verejný vstup do formovania AI technológií.
The source of the article is from the blog cheap-sound.com