在专家和超级预测者之间对人工智能潜在危险的分歧一直备受争议。那么为什么专家和超级预测者会持有如此不同的观点呢？一项开创性研究试图揭示这些分歧背后的原因。
该研究由预测研究所进行，涉及人工智能和其他潜在风险专家，以及具有准确预测世界事件记录的“超级预测者”。研究人员请这两组人评估人工智能带来的危险。
有趣的是，结果显示两组之间存在明显的对比。专家表现出更高水平的关注，并对灾难可能性的概率给予了显著较高的评估，而超级预测者则相反。
为了深入探讨这种深刻分歧的原因，研究者组织了一次“对抗性协作”。他们让专家和超级预测者花费大量时间阅读新材料，并与持相反观点的人进行讨论，由主持人促使。旨在确定是否暴露于新信息和反对意见会影响两组中任何一组的信念。
此外，研究者还旨在确定可能改变人们意见的关键问题。其中一个关键问题涉及一个人工智能评估者是否会在2030年之前找到证据表明人工智能能够自主复制、获取资源，并在关机前逃避。持怀疑态度的人认为对这个问题的肯定答案会加重他们的担忧，而人工智能悲观主义者则认为否定答案会使他们减少担忧。
这次协作努力是否导致意见趋同？答案是否定的。两组在他们对灾难可能性的评估中基本保持不变。人工智能悲观主义者略微调低了他们的概率，而乐观主义者则做了微小的上调。然而，这项研究提供了关于这些分歧观点起源的迷人见解。
研究主要集中于围绕人工智能潜在引发人类灭绝或社会无法复苏的分歧，全球GDP下降到1万亿美元以下或者全球人口在长时间内减少到不足100万的极端场景。虽然人工智能还存在许多其他风险，但研究选择专注于这些极端、存在主义的情况。
有趣的是，不同意见并非主要源自于信息获取或暴露于持不同观点。对抗性协作涉及大量新信息和对立观点的暴露，但参与者的信念基本保持不变。
此外，分歧也不是主要受短期人工智能发展预测的影响。研究人员观察到，最重要的关键问题之一——一个人工智能评估者在2030年之前发现高度危险的能力，只是将乐观主义者和悲观主义者之间的平均差距稍微减小了一点。
相反，这项研究发现长期未来的不同观点在塑造意见方面发挥了更重要的作用。乐观主义者普遍认为实现人类水平的人工智能将需要比悲观主义者预期的时间更长。他们认为，需要在机器学习方法方面取得基本突破才能达到人类水平的智能，其中包括机器人技术方面的进步。虽然软件人工智能可能复制语言，但乐观主义者认为，需要人类水平技能的物理任务对机器而言存在相当大的挑战。
这项研究最令人感到惊讶的发现之一是确定了“基本世界观分歧”作为分歧源头之一。这些分歧围绕争议中责任归属的不同看法展开。虽然两组都同意，特殊主张需要大量证据支持，但他们在哪些主张被视为特殊方面存在分歧。研究者指出，相信人工智能会导致人类灭绝在考虑到人类数十万年的持久存在时似乎是不寻常的。
总之，该研究揭示了有关人工智能潜在危险异议背后深层次原因的见解。它强调了基本世界观的分歧、长期视野以及认可特殊主张的挑战的重要性。尽管这项研究没有弥合意见分歧，但它为这一有争议课题的分歧源泉提供了宝贵见解。
常见问题解答
1. 人工智能引发灾难的潜力是什么？
人工智能引发灾难的潜力包括人类灭绝或无法恢复的崩溃情形，全球GDP下降到1万亿美元以下或全球人口在长时间内减少到不足100万。
2. 人工智能存在什么风险？
除了上述极端情形，人工智能的其他风险包括现有系统中的种族和性别偏见，不可靠性，被滥用用于恶意目的，例如传播虚假新闻或非自愿制造显性内容。
3. 暴露于不同观点是否改变参与者的信念？
尽管接触了大量新信息和相反的论点，参与者的信念基本上保持不变。
4. 什么因素导致了意见上的差异？
意见上的差异主要受到长期视角的影响，乐观主义者认为实现人类水平的人工智能所需时间比悲观主义者预期的长。此外，基本世界观的分歧在塑造分歧观点方面起到了重要作用。
5. 什么是“基本世界观分歧”？
“基本世界观分歧”指的是关于在人工智能辩论中责任归属的不同看法。虽然两组都认为特殊主张需要特殊证据支持，但他们在哪些主张被认为特殊方面存在分歧。
关键术语定义
1. 人工智能：利用机器，特别是计算机系统模拟人类智能过程。人工智能能够执行通常需要人类智能的任务，如视觉感知、语音识别、决策制定、翻译和问题解决。
2. 超级预测者：拥有准确预测重要世界事件结果记录的个人。超级预测者使用概率思维和严格分析进行预测。
3. 对抗性协作：专家与持不同观点的个人之间进行的协作，旨在暴露参与者于新信息和反对意见。
4. 举证责任：为支持特定主张或立场提供证据或理由的义务。在本文中的背景下，它指的是对于人工智能危险的特殊主张谁有责任提供充分证据的不同看法。
相关链接：
– 预测研究所：开展有关人工智能潜在危险分歧的研究的组织。
– 人工智能：了解更多关于人工智能及其应用的信息。
– 超级预测：深入了解超级预测的概念以及它如何运作。
The source of the article is from the blog elektrischnederland.nl