OpenAI公司，一家领先的人工智能初创公司，宣布成立一个名为“集体定向”的新团队，旨在通过众包方式影响其AI模型的行为以体现公众意见。该团队将致力于设计整合公众意见的系统，并解决数字鸿沟、极化、多样性表现和对AI治理未来的担忧等各种挑战。
作为努力的一部分，OpenAI将与外部顾问和资助团队合作，包括运行试点项目以将资助原型纳入到引导其AI模型中。该公司正在积极招募来自不同技术背景的研究工程师加入“集体定向”团队。
这一举措源于OpenAI于五月份推出的公共计划，该计划授予每个实验资助100,000欧元，以支持全球范围内的“民主输入AI”实验。该计划旨在建立一个确定AI系统应遵循规则的民主过程。
OpenAI承认一些参与者对AI参与政策制定的担忧，并强调在民主进程中使用AI的透明性的重要性。参与该计划的人士经历了情绪上的转变，许多人对公众通过研讨会讨论来指导AI的能力更加有希望。
除了成立“集体定向”团队外，OpenAI还共享了由资助计划参与者开发的代码，并提供了他们工作的摘要。这一举动有助于OpenAI致力于在AI开发中的开放性和透明性。
通过纳入公众意见和创建反映多样化观点的系统，OpenAI旨在确保AI模型与社会价值观保持一致，避免偏见或意外后果。集体定向团队代表着OpenAI致力于在AI技术的塑造中负责任地纳入公众输入的决心。
The source of the article is from the blog qhubo.com.ni