OpenAI ir atklājis plānus izveidot pētnieku un inženieru komandu, kas iesaistīs sabiedrību OpenAI AI modeļu uzvedības veidošanā. Zināma kā Kolektīvās līdzsvara komanda, tās mērķis ir attīstīt sistēmas, kas ievēro sabiedrības ieguldījumu AI modeļu vadībā, risinot izaicinājumus, piemēram, digitālo plaisu, polarizētās grupas, daudzveidību un ar AI vadību saistītos bažas.
Komanda darbosies kopā ar ārējiem konsultantiem un apbalvotajiem granta saņēmējiem, lai ieviestu granta prototipus OpenAI modeļos. Uzņēmums aktīvi meklē pētnieciskus inženierus ar dažādām tehniskām zināšanām, lai pievienotos komandai un sniegtu ieguldījumu šajā iniciatīvā.
Šis paziņojums seko OpenAI iepriekšējam publiskajam programmai, kas tika uzsākta pagājušā gada maijā un kuras ietvaros tika piešķirti 100 000 eiro desmit eksperimentiem, kas pētīja “demokrātiskos ieguldījumus AI.” Programmas mērķis, kā norādīts OpenAI, bija veicināt demokrātisku procesu, lai noteiktu, kādus noteikumus AI sistēmām ir jāievēro.
Nesen OpenAI ir izlaidusi kodu, ko izveidojušas dalībnieku komandas granta programmā, kā arī to darbu kopsavilkumus. Programmas laikā daži dalībnieki pauda bažas par AI izmantošanu politikas veidošanā un aicināja nodrošināt šīs tehnoloģijas pārredzamību demokrātiskajos procesos. Pēc apspriežu sesijām daudzas komandas ziņoja par palielinātu optimismu attiecībā uz sabiedrības spēju sniegt ieguldījumu AI vadībā.
OpenAI centieni iesaistīt sabiedrību lēmumu pieņemšanā par AI veicinās lielāku pārredzamību un iekļaušanu. Kolektīvās līdzsvara komandas mērķis ir nodrošināt, ka AI modeļi atbilst sabiedrības vērtībām un samazina iespējamās novirzes. Šī inovatīvā pieeja ļauj OpenAI virzīties uz demokrātiskāku un atbildīgāku AI vadības modeli, kopīgi vadītu pētnieki, inženieri un sabiedrība.
The source of the article is from the blog jomfruland.net