最近AI Impacts进行的调查显示，相当一部分机器学习研究人员认为，由于先进人工智能系统的发展，人类面临着重大的灭绝风险。这项调查是对一项备受争议的2016年研究的后续研究，结果显示，在37.8%到51.4%的受访者中，至少有10%的机会会产生像人类灭绝这样灾难性的结果。
这些结果挑战了关于AI灭绝风险的常见论点。与普遍看法相反，受访的研究人员并不能明确地分为悲观或乐观的人。相反，许多承认负面结果可能性的人也承认了积极结果的可能性。值得注意的是，57.8%的受访者认为，如人类灭绝这样的极端不利情景至少有5%的可能性。
对于2016年的调查，批评者质疑其结果的有效性，认为研究人员可能会偏向给出结果，或者某些专家没有充分考虑这个问题。然而，当AI Impacts于2022年重新进行了这项调查并重新联系了数千名机器学习研究人员时，他们获得了类似的结果。像人类灭绝这样的“非常糟糕”结果的中位数概率仍然为5%。此外，当以不同的角度来解答问题以减轻框架效应时，回答一直稳定在5-10%的范围内，这加强了数据的可靠性。
这些发现突显了与先进AI技术开发相关的潜在风险引起的担忧日益增长。随着AI系统的不断进步和公司在其开发上投入大量资源，人类水平的人工智能导致像人类灭绝这样严重后果的前景似乎不再遥不可及。现在，这个领域的专家们有必要进一步探索和解决这些风险，促进更广泛的讨论，以确定减轻任何潜在危害的最佳行动方案。
The source of the article is from the blog combopop.com.br