引言
人工智能（AI）在专家和公众中引起了惊叹和担忧。尽管AI在各个领域都有巨大的潜力，但美国国务院委托的一份新报告突显了它对国家安全构成的灾难性风险。这份基于广泛研究和对行业领袖和专家的采访而撰写的报告，对快速发展的AI带来的潜在危险发出了明确警告。本文探讨了这种潜在风险，迫切需要干预的问题以及对监管保障的呼吁。
危险风险
根据Gladstone AI发布的报告，先进的AI系统有可能对人类构成灭绝性威胁。最令人担忧的风险在于AI的可能武器化，导致不可逆转的破坏。此外，该报告强调了AI实验室内存在的担忧，即他们开发的系统可能失去控制，这可能对全球安全造成毁灭性后果。
AI和通用人工智能（AGI）的崛起有可能破坏安全，就像核武器的引入一样。事实上，报告警告称存在AI“军备竞赛”的可能性，以及冲突风险的升高，以及类似大规模毁灭性武器的灾难性事故的可能性。
紧急行动号召
鉴于形势的严峻性，该报告强调了美国政府有必要明确和紧急地介入的必要性。为有效应对这一威胁，提出了几项建议的措施：
1. 建立新的AI机构：报告呼吁成立一个专门机构来应对AI带来的挑战。该机构将致力于监督、规范和确保AI系统的安全性。
2. 紧急监管保障措施：建议立即实施监管保障措施，以减轻与AI相关的风险。这些措施旨在防止以牺牲安全为代价加速AI发展。
3. 限制计算机功率：报告还提出设定用于训练AI模型的计算机功率限制。这种控制确保AI系统的负责和受监督发展。
安全担忧和行业见解
报告的惊人发现是Gladstone AI首次获得来自公共和私人部门官员的无前例访问。在研究过程中，咨询了AI行业巨头如OpenAI、Google DeepMind、Facebook Meta和Anthropic的技术和领导团队。报告显示，先进AI系统内部的安全措施不足以应对它们带来的国家安全风险。
这个问题受到竞争压力的进一步恶化，因为公司优先考虑快速发展AI，而不是关注安全和保障方面的考虑。报告警告称，这种做法可能导致高级AI系统被用于针对美国进行窃取和武器化。
展望未来
这份报告补充了AI行业知名人士对日益增长的警告和担忧清单。类似埃隆·马斯克、联邦贸易委员会主席莉娜·卡恩和OpenAI前高管等专家都强调了AI带来的存在风险。此外，AI实验室的员工私下也表达了类似担忧，包括担心下一代AI模型可能被利用来操纵选举结果或破坏民主。
对AI最大的不确定性之一是其演变速度，特别是AGI。AGI具备类似于人类或超越人类学习能力的能力，被认为是由于失去对其行动的控制能力而产生灾难性风险的主要驱动因素。OpenAI、Google DeepMind、Anthropic和Nvidia等公司公开表示，AGI可能在2028年实现，尽管一些专家认为这可能要远在未来。
常见问题解答
**风险**
与AI相关的风险是什么？
与AI相关的风险有两个方面。首先，先进的AI系统可能被武器化，导致灾难性后果。其次，AI实验室存在这样的担忧，即这些系统可能失去控制，对全球安全构成风险。
**措施**
如何解决这些风险？
报告建议采取几项措施来应对与AI相关的风险。其中包括成立一个专门机构来监督和规范AI系统，实施紧急监管保障措施，以及设定用于训练AI模型的计算机功率限制，以确保负责任的发展。
**行业领袖和专家**
行业领袖和专家有什么担忧？
AI行业知名人士，如埃隆·马斯克和莉娜·卡恩，对AI带来的存在风险表示担忧。报告还显示，AI公司内部的员工对AI模型的潜在滥用存在类似顾虑。
**威胁**
AI何时可能成为灾难性威胁？
尽管估计存在差异，但报告暗示认为可能在2024年甚至更早出现对全球具有不可逆转效应的重大事件。然而，这些估计是不正式的，可能存在偏见。
**AGI**
AGI是什么？
人工通用智能（AGI）指的是一种假设形式的AI，具有类似于人类甚至超越人类学习能力。AGI被认为是由于失去对其行动的控制能力而产生灾难性风险的主要驱动因素。
The source of the article is from the blog exofeed.nl