近二十年来，牛津大学著名的未来人类研究所（FHI）在存在风险和人工智能未来方面进行了开拓性研究。该研究所由尼克·博斯特罗姆教授于2005年创立，对塑造全球关于人类长期前景和危险的讨论产生了影响。
各学科背景的研究人员聚集在该研究所，共同预测可能从根本上改变人类存在的技术进化。未来人类研究所的研究领域包括全球灾难性风险和可能导致人类灭绝的威胁。他们的工作引入了“脆弱世界”假说等概念，对当前的讨论产生了重大影响。该研究所还优先进行了生物安全和疫情应对领域的研究。
未来人类研究所最初的重要兴趣之一是人工智能的发展轨迹。博斯特罗姆于2014年出版的《超智能》一书引发了有关高级人工智能系统可能带来风险的全球辩论。此后，FHI 开展了一项专门致力于人工智能治理的计划，探讨了监管方面的问题。尽管他们在与政策制定者和联合国的咨询工作中取得了成功，但该研究所在筹款和招聘方面面临挑战。于2024年4月16日，该研究所正式关闭了。
长期研究人员安德斯·桑德伯格悲叹应该更多地投资于大学政治和社会关系以确保稳定的教师合作关系。然而，未来人类研究所的遗产通过它激发的许多研究人员和组织得以延续。现在焦点必须转移到人类迫切的问题和寻找有效的解决方案上。
未来人类研究所停止运营引发了几个与存在风险领域相关的重要问题和讨论点：
问题与答案：
问1: 未来人类研究所停止运营的原因是什么？
答1: 尽管未明确提到，但此类停止运营的常见原因包括资金不足，难以维持招聘，或者母机构内部战略的变化，即牛津大学。
问2: FHI正在进行的持续研究和倡议会怎样？
答2: 通常，当一个研究所关闭时，当前研究项目要么由剩余的工作人员完成，要么转移到其他机构或个人，或者可悲地终止。
问3: 未来人类研究所的关闭将如何影响与存在风险和人工智能治理相关的全球政策制定？
答3: FHI的关闭可能导致特定研究和政策建议方面的空缺。但是，其工作的影响通过在那里接受培训的研究人员和其对该领域的贡献得以延续。
主要挑战与争议：
– 资金： 对存在风险的研究通常很难吸引持续的资金，因为它可能被视为投机或比即时问题没有那么紧要。
– 招聘： 吸引和留住这一领域专业人才可能是具有挑战性的，这会影响研究机构的运营可持续性。
– 影响评估： 证明工作在预防存在风险方面的有效性本质上是困难的，这可能影响对投资或利益相关者支持的理由。
优点和缺点：
FHI工作的优点包括提高对全球灾难和存在风险的认识和理解，影响人工智能治理和安全以及为长期未来研究领域贡献学术严谨性。
缺点可能涉及对长期问题的过度强调而不是即时问题，从投机研究中得出可操作结果的困难，以及这类机构可能使注意力和资源从其他紧迫问题转移的潜力。
需要注意的是，尽管FHI已关闭，但存在风险研究领域广泛，仍在各种其他机构和倡议中持续进行。对于有兴趣进一步探索此类主题或寻求合作的利益相关者，可以探寻致力于类似目标的其他机构或智囊团。