OpenAI, en ledende AI-startup, har kunngjort opprettelsen av et nytt team kalt Kollektiv Justering, som har som mål å samle informasjon om offentlig mening for å påvirke oppførselen til AI-modellene sine. Teamet vil jobbe med å designe systemer som inkorporerer offentlige bidrag og adresserer ulike utfordringer, som den digitale kløften, polarisering, mangfoldige representasjoner og bekymringer om fremtiden for AI-styring.
Som en del av sine tiltak vil OpenAI samarbeide med eksterne rådgivere og tildele team, inkludert å kjøre piloter for å implementere tilskuddsprototyper i styringen av AI-modellene sine. Selskapet rekrutterer aktivt forskningsingeniører med varierte tekniske bakgrunner for å bli med i Kollektiv Justering-teamet.
Dette initiativet kommer fra OpenAI sitt offentlige program som ble lansert i mai, der de tildelte tilskudd på 100 000 euro hver for å støtte eksperimenter om «demokratiske bidrag til AI» verden over. Programmet hadde som mål å etablere en demokratisk prosess for å fastsette regler som AI-systemer skal følge.
OpenAI erkjenner bekymringen noen deltakere ga uttrykk for angående AI sin involvering i politikkutforming, og legger vekt på viktigheten av gjennomsiktighet i bruken av AI i demokratiske prosesser. Deltakerne i programmet opplevde en endring i holdning, der mange ble mer håpefulle når det gjaldt publikums evne til å bidra til å veilede AI gjennom drøftelser.
I tillegg til dannelse av Kollektiv Justering-teamet, har OpenAI også delt koden utviklet av programdeltakerne og gitt en oppsummering av deres arbeid. Dette bidrar til OpenAI sin forpliktelse til åpenhet og gjennomsiktighet i sin tilnærming til AI-utvikling.
Ved å inkorporere offentlig mening og skape systemer som gjenspeiler ulike perspektiver, har OpenAI som mål å sikre at AI-modellene er i tråd med samfunnsverdier og unngår skjevheter eller utilsiktede konsekvenser. Kollektiv Justering-teamet representerer OpenAI sin dedikasjon til å ansvarlig inkorporere offentlige bidrag i utformingen av AI-teknologi.
The source of the article is from the blog jomfruland.net