随着生成式人工智能技术的不断发展，OpenAI、Google 和 Anthropic 等公司持续改进其大型语言模型。为了评估这些模型的安全性，英国和美国政府签署了一份谅解备忘录，建立了一种共同的独立评估方法。
根据这一新形成的伙伴关系，英国的人工智能安全研究所和即将运营的美国同行将合作开展一系列测试，评估与最先进的 AI 模型相关的风险。为了确保全面的评估，两个组织将共享技术知识、信息和人员。
这一合作的最初目标之一是在一个公开可访问的模型上进行联合测试。迅速行动的紧迫性源于下一代 AI 模型预计将于明年出现，这可能会对各行业和领域产生重大影响。
英美间的合作是重要的，因为这标志着有史以来关于 AI 安全问题的首个双边安排。然而，两国均打算在未来扩大与其他国家的合作。美国商务部长吉娜·雷蒙多表示，”人工智能是我们这一代人的定义性技术。” 这一合作不仅旨在减轻国家安全风险，还致力于确保整个社会的福祉。
虽然此次合作的重点是评估和评估，全球政府正在制作各种监管措施，以确保 AI 的负责任使用。今年三月，白宫颁布了一项行政命令，限制 AI 工具在联邦机构内的使用，以保护公民的权利和安全。同样，欧洲议会已经通过了全面的立法，规范人工智能，禁止行为，如操纵人类行为，利用漏洞和无目标数据收集。
随着 AI 的不断发展，强调全面的评估、政府间的合作以及制定规定来保障社会安全的重要性是不言自明的。
### 常见问题解答
1. 生成式人工智能是什么？
生成式人工智能指的是一种能够根据它学习到的模式和示例创作原创内容（例如文本、图像或音频）的人工智能技术。
2. 英美政府签订的谅解备忘录的目的是什么？
谅解备忘录旨在建立对先进 AI 模型安全性独立评估的共同方法。它促进了英国人工智能安全研究所和美国同行的合作，开发测试并评估与这些模型相关的风险。
3. 英美之间的合作为什么重要？
英美间的合作之所以重要在于它标志着有关 AI 安全问题的首次双边安排。它表明了致力于解决 AI 潜在风险的承诺，并确保对 AI 系统有更好的了解、更严格的评估以及发出严格的指导。
4. AI 使用方面是否存在法规？
世界各国政府正在积极制定管理 AI 使用的法规。在美国，白宫已签署行政命令，以确保联邦机构内 AI 工具的负责任使用。类似地，欧洲议会已经通过法规，对人工智能的各个方面进行了管理。
5. 欧洲议会的人工智能立法禁止了哪些行为？
欧洲议会批准的立法禁止了操纵人类行为或利用漏洞的人工智能实践。它还禁止基于敏感特征的生物识别分类系统的使用，以及从闭路电视摄像头和网络中无目标地收集面部信息。此外，该立法要求对 Deepfake 等 AI 生成的内容进行明确标记。
The source of the article is from the blog shakirabrasil.info