在一项开创性举措中，英国的一个研究与开发单位揭示了人工智能领域中“定量安全保证”的创新愿景。先进研究和发明机构（ARIA）为人工智能设定了高标准的安全保证，将核电和乘客航空业的严格安全措施作为参照。
ARIA计划的核心是实施一个“门卫”人工智能系统。这个数字哨兵将作为一个保障措施，确保其他人工智能代理在特定应用中运行在预定边界内。通过开发这个门卫人工智能，ARIA的目标是灌输概率保证，确保人工智能行动不会造成任何伤害。
ARIA已承诺投入5900万英镑用于该项目，旨在在指定领域展示可扩展的概念验证。潜在的应用范围从电网平衡到供应链管理，最终目标是确保高风险人工智能实施，例如改善关键基础设施或优化临床试验。
这一开创性举措的发起者是大卫·达利姆普尔（davidad），流行加密货币Filecoin的共同发明者。达利姆普尔在技术人工智能安全方面的广泛研究激励他探索门卫方法。现在作为ARIA的项目主管，他有机会将自己的理论变成切实可行的解决方案。
门卫保证：
ARIA开发的门卫将依赖科学世界模型和数学证明来确保安全。达利姆普尔强调，这一方法将商业和学术概念相结合。与大型人工智能公司采用的依赖有限样本且没有提供保证的现有方法不同，ARIA的门卫方法将前沿能力与数学推理相结合。
要实现这种融合，需要深入的跨学科合作，ARIA的作用变得至关重要。ARIA去年成立，资助“高风险、高回报”的研究，并被与着名的五角大楼研究单位DARPA进行比较，后者因其开创性的项目而闻名。
达利姆普尔将ARIA的新项目与DARPA的HACMS项目进行了类比，后者成功通过形式验证创建了一款不可破解的四轴飞行器。采用类似原则，达利姆普尔的计划旨在兑现“定量安全保证”的承诺。值得注意的是，著名计算机科学家Yoshua Bengio对此领域的进展缺乏表示失望，使得达利姆普尔的倡议可能成为颠覆性变革者。
尽管有政治人物对ARIA的预算提出质疑，一些立法者怀疑其规模与其他政府研究机构的大小相比，但该机构可以展示潜在的成本节约。例如，其最近推出的一个项目旨在以当前成本的0.1%培训人工智能系统。
随着即将举行的TNW大会以“人工智能助力的重生”为主题，这一开创性的人工智能安全方法无疑将引发进一步的讨论。通过实施门卫系统和专注于定量安全保证，ARIA及其富有远见的领导人大卫·达利姆普尔有潜力开拓人工智能的新领域，确保这一变革性技术的安全和负责任的部署。
常见问题
人工智能安全中的门卫方法是什么？
人工智能安全中的门卫方法涉及实施一个数字哨兵，规范并确保其他人工智能代理在特定应用的定义边界内安全运行。它旨在提供概率保证，确保人工智能行动不会造成伤害。
ARIA计划如何实现人工智能中的定量安全保证？
ARIA计划通过开发门卫人工智能系统实现人工智能中的定量安全保证。这些门卫将依赖科学世界模型和数学证明来确保安全。通过将前沿能力与数学推理相结合，ARIA希望为安全的人工智能部署创建一个坚实的框架。
ARIA的门卫方法可能的应用有哪些？
ARIA的门卫方法可能的应用包括关键基础设施改进、优化临床试验、电网平衡和供应链管理。通过保障高风险的人工智能实施，ARIA旨在增强这些应用的安全性和有效性。
ARIA的方法与大型人工智能公司使用的现有方法有何不同？
与大型人工智能公司使用的依赖有限样本且没有提供保证的现有方法不同，ARIA的门卫方法将前沿能力与数学推理相结合。这种融合可以实现速度和安全性，并为人工智能部署提供更全面的方法。
什么是DARPA，为什么ARIA被与之相提并论？
DARPA代表国防高级研究计划局，是五角大楼内的一个研究单位，以其开创性和高风险的项目而闻名。ARIA被与DARPA相提并论，因为其专注于“高风险、高回报”的研究，以及推动技术创新边界的雄心。
来源：
– TNW（https://tnw.com）
除了文章提供的信息外，以下是关于人工智能行业、市场预测以及与人工智能行业相关的问题的一些额外信息：
人工智能行业正在经历快速增长，并预计在未来几年将继续扩展。根据Grand View Research的报告，全球人工智能市场规模在2019年为399亿美元，预计到2027年将达到7337亿美元，预测期间复合年增长率为42.2%。这一增长是由人工智能在医疗保健、金融、零售和制造等各个领域的日益采用推动的。
人工智能行业面临的挑战之一是需要健全的安全措施。随着人工智能系统变得越来越先进和自主，确保其安全和负责任的部署变得至关重要。人工智能算法中存在的偏见、缺乏透明度以及与人工智能决策相关的潜在风险等问题引起了研究人员、政策制定者和普通公众的关注。
另一个挑战是缺乏人工智能的标准化规定和准则。随着人工智能技术的快速发展和部署，有必要建立明确的道德和法律框架，以确保对人工智能的负责任和公平使用。各国政府和监管机构正在努力制定指导方针和政策来解决这些问题，但仍有很长的路要走。
人工智能行业的公司正大力投资于研发，改善人工智能安全性，并应对上述挑战。学术界、行业和政府组织之间的合作努力也正在进行，以促进人工智能安全方面的跨学科研究和创新。
The source of the article is from the blog tvbzorg.com