人工智能通用智能（AGI）的未来在马克·扎克伯格（Mark Zuckerberg）宣布他的公司承诺研发AGI并将其开源之后引发了激烈的争议。AGI的概念指的是一种理论上超越或与人类能力相匹敌的智能人工智能系统。尽管扎克伯格提出的一个可访问和免费使用的AGI系统的愿景因其潜在的好处而受到赞扬，但它也引发了针对监管的担忧以及这种强大技术的可能滥用问题。
将AGI开源的决策引起了专家的批评，他们认为这是一种不负责任的举动。南安普敦大学计算机科学教授、联合国AI咨询机构成员温迪·霍尔女爵士表达了她的不安，她表示在建立健全的监管机制之前释放开源AGI可能会“真的非常可怕”。她强调了这种技术如果落入错误的手中可能造成的危害，并强调在其广泛可用之前发展监管框架的重要性。
其他人则认为，关于AGI的决策不应仅由技术公司决定，而需要国际共识。萨里大学人本导向AI研究所所长安德鲁·罗戈伊思基博士强调了这个问题的复杂性以及开源AGI的潜在后果。他表示，这样的决策应该是集体做出的，而不应该只在科技巨头的董事会上决定。
尽管Meta对开源AGI的承诺引发了争议，但一些公司，如OpenAI和Google的DeepMind也在推进AGI的研发。OpenAI将AGI定义为“比人类更聪明的AI系统”，并认为在能源供应的突破性进展之前，进一步提升人工智能的发展取决于。
尽管扎克伯格没有提供AGI研发的具体时间框架，但他提到了Meta已经构建的支持新AI系统的重要基础设施，并透露正在进行对之前AI模型“Llama 2”的续集的研发工作。
随着对AGI的争论继续进行，明确需要仔细考虑其潜在的好处和风险。在确保这种强大技术的安全和有益应用上，取得开放和负责任治理之间的平衡将至关重要。
常见问题解答：
1. 什么是人工通用智能（AGI）？
– AGI是指一种理论上具有与人类能力相等或超过的智能人工智能系统。
2. 马克·扎克伯格有关AGI的公告为什么引发了争议？
– 扎克伯格承诺研发AGI并将其开源，引起了人们对监管和潜在技术滥用的担忧。
3. 关于开源AGI有哪些担忧？
– 专家认为，在没有健全的监管机制的情况下释放开源AGI可能会带来有害后果，并强调需要建立监管框架。
4. AGI的发展是否需要国际共识的支持？
– 是的，一些人认为关于AGI的决策不应仅由技术公司决定，而需要国际共识的集体决策。
5. 还有其他公司在推进AGI的研发吗？
– 是的，OpenAI和Google的DeepMind等公司也在推进AGI的研发。
6. OpenAI如何定义AGI？
– OpenAI将AGI定义为“比人类更聪明的AI系统”。
7. 马克·扎克伯格是否提供了AGI研发的时间框架？
– 没有，他没有提供AGI研发的具体时间框架，但他提到Meta已经建立了支持新AI系统的重要基础设施。
相关链接：
– OpenAI
– Google的DeepMind
– Meta（前Facebook）
The source of the article is from the blog myshopsguide.com