L’oubli : un défaut majeur des IA ?

L’un des surnoms que les experts donnent à l’intelligence artificielle est celui de boîte noire, tout simplement car il est difficile de comprendre avec précision son fonctionnement interne, dans les réseaux neuronaux. Ces derniers sont formés sur de vastes ensembles de données et sont chargés d'accomplir certaines tâches, mais les algorithmes qui en résultent sont excessivement complexes pour être déchiffrés. Cependant, toutes les IA font face à un problème commun : l'oubli catastrophique. Des chercheurs de l'Université d'État de l'Ohio ont scruté ce phénomène dans le but de trouver des solutions. À mesure que l'IA acquiert de nouvelles compétences, elle perd en mémoire les informations qu'elle avait précédemment assimilées. Ce phénomène d'oubli catastrophique est particulièrement préoccupant dans les contextes d'apprentissage continu, pouvant se révéler dangereux, notamment si les véhicules autonomes oublient les règles élémentaires de sécurité par exemple. Les chercheurs ont mis en évidence des similitudes entre la mémoire des IA et celle de l'être humain. Les individus peuvent avoir du mal à distinguer les détails de deux scénarios similaires, mais retiennent plus aisément deux événements nettement distincts. Les réseaux neuronaux artificiels, eux, conservent mieux les informations lorsque les tâches successives sont très différentes. Les chercheurs ont constaté qu'en exposant l'IA à une variété de tâches dès ses débuts, elle est plus apte à intégrer de nouvelles informations et à s'acquitter de tâches similaires par la suite. Ces chercheurs nourrissent l'espoir que l'étude des similitudes entre les mécanismes des machines et ceux du cerveau humain puisse donner naissance à des IA capables d'apprendre et de s'adapter comme les humains. Learn more about your ad choices. Visit megaphone.fm/adchoices