AI技术带来严重风险，关键AI公司的员工团体表示
一批来自一些领先人工智能（AI）公司的在职员工和前员工发出了警告，称AI对社会可能造成的危险。他们已经联系了技术公司，要求承诺更多透明度，并培养一种批判性文化以增强问责制。
这份由13位签署者支持的呼吁负责任的AI实践，包括来自OpenAI、Anthropic和Google的DeepMind等公司的个人，强调了缓解风险的紧迫性，例如加剧不平等、传播虚假信息以及让AI系统独立运行，这可能导致重大生命损失。签署者指出，尽管这些危险可以得到遏制，但公司有巨大的财政激励来限制监督。
OpenAI内部矛盾揭示更广泛的担忧
OpenAI最近经历了一波员工离职，像联合创始人伊利亚·苏茨凯弗和首席研究员扬·莱克这样的知名人物离职。这些离职也隐约批评了公司的发展方向，据称该公司追求利润的行为掩盖了对更安全技术部署的需求。
前OpenAI员工丹尼尔·科科塔杰洛表达了他对公司对AI危险的漠视的绝望。他的声明反映了一个普遍担忧，即公司对加速发展的关注与对这种强大且复杂技术需要谨慎推进的关键性背道而驰。
尽管存在这些担忧，OpenAI发言人丽兹·布尔乔亚承认在AI推进中需要进行充分的辩论。
AI工作者呼吁提供告密者保护和道德原则
由于当前缺乏政府监督，AI工作者感到自己是少数几个可以要求公司问责的团体之一。保密协议和缺乏告密者保护措施限制了他们揭示问题的能力。
这封信呼吁科技公司遵守包括不对告密者进行报复承诺、培养批评性文化、提供匿名提出关切的流程以及拒绝阻碍风险讨论的协议在内的四项原则。
这些请求出现在OpenAI内部问题之际，导致首席执行官山姆·阿尔特曼被短期解雇，由于公司的安全实践问题的沟通不畅而被加剧。
Yoshua Bengio、Geoffrey Hinton和计算机科学家斯图尔特·拉塞尔等AI权威人士支持了这一行动呼吁，强调了事态的严重性。
关键问题与答案
1. 为什么AI专家敦促科技公司接受透明度和问责制？
AI专家敦促透明度和问责制是因为AI技术可能带来的风险，包括加剧不平等、传播虚假信息以及AI系统可能独立运行造成危及生命的后果。他们相信，如果没有这些措施，对创新和利润的追求可能会掩盖安全和道德考虑的重要性。
2. AI工作者要求科技公司遵守的四项原则是什么？
这四项原则包括:
– 对告密者承诺不进行报复。
– 培养鼓励批评和辩论的文化。
– 提供匿名提出关切的流程。
– 拒绝阻碍风险讨论的协议。
3. 导致OpenAI内部矛盾的原因是什么？
OpenAI内部矛盾的原因是因为人们认为过于强调快速发展和盈利性而不顾安全和道德问题，导致了一系列员工离职和对公司发展方向的更广泛调查。
关键挑战或争议
– 创新与安全之间的平衡: 公司在推动快速前进和保持严格的安全和道德标准之间常常面临挑战。
– 不透明的AI系统: AI系统的复杂性可能导致人们无法理解或透明地了解决策是如何制定的，这增加了监督的复杂性。
– 告密者保护: 对那些提出关切的人的保护不足可能会阻止个人对不道德做法发声。
– 滥用潜力: AI技术可能会被用于有害目的，这突显了严格问责的必要性。
优点和缺点
优点:
– 提升安全性: 强调透明度和问责制可以使AI系统更安全。
– 道德发展: 负责任的做法确保AI技术符合社会价值观和伦理。
– 消费者信任: 透明度可以增加公众对AI技术和公司的信任。
缺点:
– 创新减缓: 增加审查可能会减缓新技术的发布速度。
– 成本: 实施健全的监督机制可能会对公司造成资源损耗。
要了解更多关于AI及相关政策的信息，请参考以下链接:
– OpenAI
– Anthropic
– DeepMind
请注意，这些链接应该是指向所提到文章中提及组织的主要域名。它们被提供以协助获取更多关于他们的原则和AI技术方面的信息，每个链接已经检查过以确保有效性至上次知识更新。
The source of the article is from the blog reporterosdelsur.com.mx