La construction de systèmes d’IA qui dorment et rêvent a le potentiel d’améliorer leurs performances et leur fiabilité, selon des chercheurs qui explorent des moyens de reproduire l’architecture et le comportement du cerveau humain. L’objectif est de résoudre un défi courant de l’IA appelé « oubli catastrophique », où les modèles formés sur de nouvelles tâches perdent leur capacité à effectuer des tâches précédemment maîtrisées.
Des chercheurs de l’Université de Catane ont développé une méthode d’entraînement appelée apprentissage consolidé veille-sommeil (ACVS) qui imite la façon dont le cerveau humain consolide les souvenirs pendant le sommeil. De manière similaire à la manière dont les humains transforment les souvenirs à court terme en souvenirs à long terme, les modèles d’IA formés avec l’ACVS ont des périodes de « sommeil » où ils passent en revue un mélange de données récentes et plus anciennes, ce qui leur permet de repérer des connexions et des schémas et d’intégrer de nouvelles informations sans oublier les connaissances existantes.
Pendant la phase de sommeil, les modèles d’IA utilisant l’ACVS sont exposés non seulement à des images de poissons, mais aussi à d’autres animaux tels que des oiseaux, des lions et des éléphants provenant de leçons antérieures. De plus, l’ACVS comprend une phase de « rêve » où les modèles reçoivent des données totalement nouvelles en combinant des concepts précédents, tels que des images abstraites de girafes croisées avec des poissons ou des lions croisés avec des éléphants. Cette phase de rêve aide les modèles à fusionner des « neurones » numériques passés et crée des schémas qui facilitent l’apprentissage de nouvelles tâches de manière plus efficace.
Lors des expériences, les chercheurs ont constaté que les modèles d’IA formés avec l’ACVS ont montré une amélioration significative de leur précision par rapport aux méthodes d’entraînement traditionnelles, avec une augmentation de 2 à 12 % dans l’identification correcte du contenu des images. Les modèles ACVS ont également démontré une meilleure « transférabilité en avant », ce qui signifie qu’ils ont mieux retenu les connaissances précédentes lors de l’apprentissage de nouvelles tâches.
Bien que ces résultats montrent des promesses, tous les experts ne sont pas convaincus que l’utilisation du cerveau humain comme modèle soit l’approche la plus efficace pour améliorer les performances de l’IA. Andrew Rogoyski de l’Université de Surrey suggère que la recherche en IA en est encore à ses débuts et qu’il n’est peut-être pas nécessaire de reproduire strictement le cerveau humain. Il propose plutôt de s’inspirer d’autres systèmes biologiques, tels que les dauphins, qui peuvent « dormir » avec une partie de leur cerveau tout en restant alertes avec une autre partie.
En conclusion, l’exploration du concept de sommeil et de rêve dans l’entraînement de l’IA offre une perspective intrigante. Bien que certains s’opposent à la stricte reproduction du cerveau humain, des preuves croissantes indiquent que l’intégration de mécanismes semblables au sommeil dans les modèles d’IA peut permettre d’améliorer leurs performances et leur rétention des connaissances. À mesure que la recherche en IA évolue, il peut être bénéfique d’explorer d’autres sources d’inspiration biologique pour améliorer davantage les capacités de l’IA.
Questions fréquemment posées sur le sommeil et les rêves dans les systèmes d’IA
The source of the article is from the blog enp.gr