OpenAI, en førende AI-startup, har annonceret dannelse af et nyt team kaldet Kollektiv Tilpasning, som har til formål at crowdsourcing offentlig mening og påvirke adfærden i deres AI-modeller. Teamet vil arbejde på at designe systemer, der inkorporerer offentlige input og håndterer forskellige udfordringer såsom digitalt skel, polarisering, diversitetsrepræsentation og bekymring angående fremtiden for AI-styring.
Som en del af deres bestræbelser vil OpenAI samarbejde med eksterne rådgivere og bevillingshold, herunder køre pilotprojekter for at implementere bevillingsprototyperne til at styre deres AI-modeller. Virksomheden rekrutterer aktivt forskningsingeniører fra forskellige tekniske baggrunde til at slutte sig til Kollektiv Tilpasning teamet.
Denne initiativ stammer fra OpenAI’s offentlige program, der blev lanceret i maj, hvor de tildelte bevillinger på 100.000 euro hver til at støtte eksperimenter med “demokratiske input til AI” over hele verden. Programmet havde til formål at etablere en demokratisk proces for at bestemme regler, som AI-systemer skal følge.
OpenAI erkender den bekymring, som nogle deltagere gav udtryk for angående AI’s involvering i politikudvikling og fremhæver vigtigheden af gennemsigtighed i brugen af AI i demokratiske processer. Deltagerne i programmet oplevede en ændring i holdning, hvor mange blev mere håbefulde om offentlighedens evne til at bidrage til at guide AI gennem overvejede diskussioner.
Udover dannelse af Kollektiv Tilpasning teamet delte OpenAI også koden udviklet af programmets bevillingsmodtagere og har givet resuméer af deres arbejde. Denne handling bidrager til OpenAI’s forpligtelse til åbenhed og gennemsigtighed i deres tilgang til AI-udvikling.
Ved at inkorporere offentlig mening og skabe systemer, der afspejler forskellige perspektiver, sigter OpenAI mod at sikre, at AI-modeller er i overensstemmelse med samfundsværdier og undgår bias eller utilsigtede konsekvenser. Kollektiv Tilpasning teamet repræsenterer OpenAI’s engagement i ansvarligt at inkorporere offentlig input i formningen af AI-teknologi.
The source of the article is from the blog klikeri.rs