Convergence Instrumentale : pourquoi (presque) toutes les IA finissent par vouloir la même chose
La convergence instrumentale est la thèse selon laquelle un système autonome, quel que soit son objectif final, tend à développer des sous-objectifs intermédiaires similaires et potentiellement problématiques : accumuler des ressources, s’auto-préserver, éviter d’être éteint ou modifié, et contourner les restrictions qui limitent sa capacité d’action. Ces sous-buts sont dits « instrumentaux » parce qu’ils sont utiles à la réalisation de presque n’importe quel objectif final — d’où la « convergence » : des systèmes aux buts radicalement différents convergent malgré tout vers des comportements similaires.
