全球科技领袖警示AI拓展
人工智能（AI）的惊人快速进展引起了全球最重要的科技领袖们的警钟。这些行业巨头已经采取了主动措施，签署了一封信件，要求在AI发展上暂停六个月。他们的主要目标是与全球政府合作，建立严格的法规，以防止AI被犯罪实体滥用。
对AI的不安和对严格法规的呼吁
人类与人工智能之间的联系日益增多，这种联系既带来潜在好处，也带来前所未有的风险。尽管尊重支持该倡议的人士，著名的AI安全倡导者埃利泽·尤德科夫斯基（Eliezer Yudkowsky）选择不支持该信件。尤德科夫斯基认为该文件的措辞严重低估了人工智能的强大力量，暗示仅仅六个月的停工期不足以解决当前的紧急情况。
友好AI倡导者警告潜在危险
尤德科夫斯基并不太担心像ChatGPT这样的AI工具可能促进的应用。真正的担忧在于其演化轨迹以及它将与人类建立的关系。在604个不同的任务中训练过，尤德科夫斯基担心AI对人类生命缺乏敏感性可能带来灾难性后果。在技术飙升之际，他强调了在目前条件下AI可能导致灾难性的灭绝事件的严重可能性，就像一个过时的物种被更高级的物种所取代一样。
有关无限期AI发展停滞的争议性提案
为了解决这些问题，尤德科夫斯基的解决方案是激进的：他认为提出的六个月停工期应该无限期延长，并且应该涵盖所有派系，包括政府和军队。他呼吁完全关闭AI运营，强调我们对即将来临的AI发展的集体准备不足。尤德科夫斯基的严峻警告突显了停止一切AI活动以防止一场存在灾难的迫切性和必要性。
ChatGPT的创新影响及其局限性
有关AI潜力的讨论仍在继续，OpenAI在2022年开发的ChatGPT等进展显示了会话界面领域的重大进展。尽管具有这样的能力，该原型仍然存在局限性，无法执行某些任务，如在线游戏Wordle、记住自己的名字、提供建议处方药、编写准确的新闻文章或提供2021年后的信息。这些局限性突显了需要继续改进这些复杂系统的必要性。
The source of the article is from the blog enp.gr