OpenAI heeft plannen onthuld om een team van onderzoekers en ingenieurs op te richten dat het publiek zal betrekken bij het vormgeven van het gedrag van hun AI-modellen. Bekend als het collectief alignementteam, is het doel ervan om systemen te ontwikkelen die publieksinput gebruiken om AI-modellen te begeleiden, waarbij uitdagingen zoals de digitale kloof, gepolariseerde groepen, diversiteitsrepresentatie en zorgen over AI-bestuur worden aangepakt.
Het team zal samenwerken met externe adviseurs en ontvangers van subsidies om de integratie van prototypes van subsidies in de modellen van OpenAI te testen. Het bedrijf is actief op zoek naar onderzoeksinzichtingenieurs met diverse technische achtergronden om zich aan te sluiten bij het team en bij te dragen aan dit initiatief.
Deze aankondiging volgt op het vorige openbare programma van OpenAI, gelanceerd in mei vorig jaar, dat €100.000 heeft toegekend aan tien experimenten die “democratische input voor AI” verkennen. Het doel van het programma, zoals vermeld door OpenAI, was om een democratisch proces te bevorderen voor het bepalen van de regels die AI-systemen moeten volgen.
Als recente ontwikkeling heeft OpenAI de code vrijgegeven die is gemaakt door deelnemende teams aan het subsidieprogramma, evenals samenvattingen van hun werk. Tijdens het programma uitten sommige deelnemers bezorgdheid over het gebruik van AI in beleidsvorming en pleitten ze voor transparantie in de toepassing ervan binnen democratische processen. Na afloop van de beraadslagingssessies rapporteerden veel teams een toegenomen gevoel van optimisme over het vermogen van het publiek om bij te dragen aan de richtlijnen voor AI.
De inspanningen van OpenAI om het publiek te betrekken bij besluitvormingsprocessen rond AI bevorderen meer transparantie en inclusiviteit. Door diverse perspectieven te integreren, streeft het collectief alignementteam ernaar ervoor te zorgen dat AI-modellen in lijn zijn met maatschappelijke waarden en mogelijke vooroordelen minimaliseren. Deze innovatieve aanpak stelt OpenAI in staat om te evolueren naar een meer democratisch en verantwoordelijk AI-bestuursmodel, collectief geleid door onderzoekers, ingenieurs en het publiek.
The source of the article is from the blog toumai.es