OpenAI, ein führendes KI-Start-up, hat die Gründung eines neuen Teams namens Collective Alignment angekündigt. Das Ziel dieses Teams ist es, die öffentliche Meinung zu nutzen, um das Verhalten seiner KI-Modelle zu beeinflussen. Das Team wird an der Entwicklung von Systemen arbeiten, die öffentliche Eingaben berücksichtigen und verschiedene Herausforderungen angehen, wie die digitale Kluft, Polarisierung, Vielfalt der Repräsentation und Bedenken hinsichtlich der zukünftigen KI-Regulierung.
Im Rahmen dieser Bemühungen wird OpenAI mit externen Beratern und grantierten Teams zusammenarbeiten, um Pilotprojekte durchzuführen und deren Prototypen in die Steuerung der KI-Modelle einzubinden. Das Unternehmen sucht aktiv nach Forschungsingenieuren mit unterschiedlichem technischem Hintergrund, die dem Collective Alignment Team beitreten möchten.
Diese Initiative geht auf das im Mai gestartete öffentliche Programm von OpenAI zurück, bei dem Grants im Wert von 100.000 Euro vergeben wurden, um Experimente zu „demokratischen Eingaben in KI“ auf der ganzen Welt zu unterstützen. Das Programm hatte zum Ziel, einen demokratischen Prozess zur Bestimmung der Regeln zu etablieren, denen KI-Systeme folgen sollten.
OpenAI erkennt die Bedenken einiger Teilnehmer hinsichtlich der Beteiligung von KI an politischen Entscheidungsprozessen an und betont die Bedeutung von Transparenz bei der Verwendung von KI in demokratischen Prozessen. Die Teilnehmer des Programms erlebten eine Veränderung der Stimmung, wobei viele zunehmend optimistisch waren, dass die Öffentlichkeit durch Beratungsgespräche zur Ausrichtung von KI beitragen kann.
Neben der Gründung des Collective Alignment Teams hat OpenAI auch den von den Grant-Programmteilnehmern entwickelten Code geteilt und Zusammenfassungen ihrer Arbeit zur Verfügung gestellt. Dieser Schritt trägt zur Offenheit und Transparenz von OpenAI in Bezug auf die Entwicklung von KI bei.
Durch die Einbindung der öffentlichen Meinung und die Entwicklung von Systemen, die verschiedene Perspektiven widerspiegeln, strebt OpenAI an, sicherzustellen, dass KI-Modelle mit gesellschaftlichen Werten übereinstimmen und vor Vorurteilen oder unbeabsichtigten Folgen geschützt sind. Das Collective Alignment Team steht für OpenAI’s Engagement, die öffentliche Meinung verantwortungsbewusst in die Gestaltung von KI-Technologie einzubeziehen.
The source of the article is from the blog be3.sk