OpenAI har avslöjat planer på att etablera ett team av forskare och ingenjörer som kommer att engagera allmänheten i att forma beteendet hos sina AI-modeller. Känt som Collective Alignment-teamet är dess mål att utveckla system som inkluderar allmänhetens input för att styra AI-modeller, vilket tar itu med utmaningar som den digitala klyftan, polariserade grupper, representation av mångfald och frågor kring AI-styrelse.
Teamet kommer att arbeta tillsammans med externa rådgivare och stipendiemottagare för att testa inkorporeringen av stipendieprototypen i OpenAI’s modeller. Företaget letar aktivt efter forskningsingenjörer med olika tekniska bakgrunder för att gå med i teamet och bidra till denna initiativ.
Denna tillkännagivelse följer OpenAI:s tidigare offentliga program, som lanserades i maj förra året och beviljade 100 000 euro till tio experiment som undersökte ”demokratiska inputs till AI”. Målet med programmet, som OpenAI uttryckte, var att främja en demokratisk process för att bestämma reglerna som AI-system bör följa.
I en senare utveckling har OpenAI släppt koden som skapats av deltagande team i stipendieprogrammet, samt sammanfattningar av deras arbete. Under programmet uttryckte vissa deltagare oro över användningen av AI i politik och förespråkade öppenhet i dess tillämpning inom demokratiska processer. Efter diskussionssessionerna rapporterade många team en ökad känsla av optimism när det gäller allmänhetens förmåga att bidra till AI-styrning.
OpenAI:s ansträngningar att involvera allmänheten i beslutsfattandet omkring AI främjar större öppenhet och inkludering. Genom att inkorporera olika perspektiv syftar Collective Alignment-teamet till att säkerställa att AI-modellerna överensstämmer med samhällets värderingar och minimerar potentiella fördomar. Detta innovativa tillvägagångssätt gör att OpenAI kan röra sig mot en mer demokratisk och ansvarsfull AI-styrelsemodell, gemensamt ledd av forskare, ingenjörer och allmänheten.
