Après près de deux décennies de recherche pionnière sur les risques existentiels et les futurs de l’intelligence artificielle, le prestigieux Institut du Futur de l’Humanité (FHI) de l’Université d’Oxford a cessé ses activités. Fondé en 2005 par le professeur Nick Bostrom, le FHI a eu une influence majeure sur les conversations mondiales concernant les perspectives à long terme et les dangers de l’humanité.
Des chercheurs diversifiés de multiples disciplines se sont regroupés à l’institut pour anticiper les évolutions technologiques potentiellement capables de modifier fondamentalement l’existence humaine. Les domaines d’étude notables du FHI comprenaient les risques catastrophiques mondiaux et les menaces pouvant potentiellement conduire à l’extinction de l’espèce humaine. Leur travail, qui a introduit des concepts tels que l’hypothèse du « Monde Vulnérable », a eu un impact significatif sur les débats actuels. L’institut a également priorisé la recherche en biosécurité et la préparation aux pandémies.
L’un des intérêts majeurs du FHI a été dès le début la trajectoire de l’intelligence artificielle. Le livre de Bostrom de 2014, « Superintelligence », a déclenché un débat mondial sur les risques posés par les systèmes d’IA avancés. Suite à cela, le FHI a développé un programme dédié à la gouvernance de l’IA, explorant les préoccupations réglementaires. Malgré leurs succès et leur rôle consultatif auprès des décideurs politiques et des Nations Unies, l’institut a rencontré des difficultés de financement et de recrutement. Le 16 avril 2024, l’institut a officiellement fermé ses portes.
Le chercheur de longue date Anders Sandberg a regretté que davantage d’investissements n’aient pas été réalisés dans la politique universitaire et les relations sociales pour garantir un partenariat stable avec la faculté. Néanmoins, l’héritage du FHI perdure à travers les nombreux chercheurs et organisations qu’il a inspirés. L’accent doit désormais être mis sur les questions pressantes de l’humanité et sur la recherche de solutions impactantes.
La cessation des activités du Futur de l’Institut de l’Humanité soulève plusieurs questions importantes et sujets de discussion pertinents dans le domaine des risques existentiels :
Questions et Réponses :
Q1 : Qu’a provoqué la fermeture du Futur de l’Institut de l’Humanité ?
A1 : Bien que cela ne soit pas explicitement mentionné, les raisons courantes de telles fermetures incluent le manque de financement, les difficultés de maintien du recrutement ou les changements stratégiques au sein de l’organisation mère, en l’occurrence l’Université d’Oxford.
Q2 : Que va-t-il arriver aux recherches et initiatives en cours menées par le FHI ?
A2 : Typiquement, lorsque un institut ferme, les projets de recherche en cours sont soit finalisés par le personnel restant, transférés à d’autres institutions ou individus, ou malheureusement, interrompus.
Q3 : Comment la fermeture du FHI va-t-elle affecter l’élaboration des politiques globales concernant les risques existentiels et la gouvernance de l’IA ?
A3 : La perte du FHI pourrait entraîner un vide en matière de recherches spécialisées et de recommandations politiques. Cependant, l’influence de son travail se perpétue à travers les chercheurs formés là-bas et ses contributions au domaine.
Principaux Défis et Controverses :
– Financement : La recherche sur les risques existentiels a du mal à attirer un financement continu car elle peut être perçue comme spéculative ou moins urgente que les problèmes immédiats.
– Recrutement : Attirer et conserver des experts dans un domaine aussi niche et complexe peut être difficile, impactant la viabilité opérationnelle des instituts de recherche.
– Mesure de l’Impact : Prouver l’efficacité du travail dans la prévention des risques existentiels est intrinsèquement difficile, ce qui peut affecter la justification de l’investissement ou le soutien des parties prenantes.
Avantages et Inconvénients :
Les avantages du travail du FHI incluent la sensibilisation et la compréhension des risques catastrophiques et existentiels mondiaux, l’influence sur la gouvernance et la sécurité de l’IA, et la contribution à la rigueur académique dans le domaine des études sur le futur à long terme.
Les inconvénients pourraient être liés à une éventuelle surpondération des préoccupations à long terme par rapport à celles immédiates, à la difficulté d’obtenir des résultats concrets à partir de recherches spéculatives, et au potentiel de tels instituts de détourner l’attention et les ressources d’autres problèmes urgents.
Il est important de noter que bien que le FHI ait fermé, le domaine de la recherche sur les risques existentiels est vaste et se poursuit à travers diverses autres organisations et initiatives. Les parties prenantes intéressées par l’exploration plus poussée de ces sujets ou à la recherche de collaborations peuvent explorer d’autres institutions ou groupes de réflexion dédiés à des causes similaires.
The source of the article is from the blog maestropasta.cz