OpenAI, een toonaangevende AI-start-up, heeft de oprichting aangekondigd van een nieuw team genaamd Collectief Alignement, dat tot doel heeft de publieke opinie te betrekken bij het beïnvloeden van het gedrag van zijn AI-modellen. Het team zal werken aan het ontwerpen van systemen die publieke inbreng opnemen en verschillende uitdagingen aanpakken, zoals de digitale kloof, polarisatie, diversiteit in vertegenwoordiging en zorgen over de toekomst van het AI-beleid.
Als onderdeel van zijn inspanningen zal OpenAI samenwerken met externe adviseurs en teams financieren, inclusief het uitvoeren van proefprojecten om de subsidieprototypes te implementeren bij het sturen van zijn AI-modellen. Het bedrijf werft actief onderzoekstechnici met diverse technische achtergronden om lid te worden van het Collectief Alignement team.
Deze initiatief is ontstaan uit het publieke programma van OpenAI dat in mei is gelanceerd, waarbij het grants ter waarde van €100.000 elk heeft toegekend om experimenten te ondersteunen gericht op “democratische bijdragen aan AI” over de hele wereld. Het programma had als doel een democratisch proces vast te stellen voor het bepalen van de regels die AI-systemen moeten volgen.
OpenAI erkent de bezorgdheid die sommige deelnemers hebben geuit over de betrokkenheid van AI bij het maken van beleid en benadrukt het belang van transparantie bij het gebruik van AI in democratische processen. Deelnemers aan het programma hebben een verschuiving in sentiment ervaren, waarbij velen hoopvoller werden over het vermogen van het publiek om bij te dragen aan het sturen van AI via weloverwogen discussies.
Naast de oprichting van het Collectief Alignement team, heeft OpenAI ook de code gedeeld die is ontwikkeld door de deelnemers aan het subsidieprogramma en samenvattingen verstrekt van hun werk. Deze stap draagt bij aan de toewijding van OpenAI aan openheid en transparantie in zijn benadering van AI-ontwikkeling.
Door publieke opinie op te nemen en systemen te creëren die diverse perspectieven weerspiegelen, beoogt OpenAI ervoor te zorgen dat AI-modellen in overeenstemming zijn met maatschappelijke waarden en vorengenomen partijdigheid of onbedoelde gevolgen vermijden. Het Collectief Alignement team vertegenwoordigt de toewijding van OpenAI om verantwoordelijk publieke inbreng te integreren in de vormgeving van AI-technologie.
The source of the article is from the blog agogs.sk