Convergence instrumentale

La convergence instrumentale désigne une thèse théorique développée dans le domaine de la sécurité de l’intelligence artificielle par le philosophe Nick Bostrom. Elle postule que des systèmes d’intelligence artificielle dotés d’objectifs finaux fondamentalement différents développeront de manière prévisible des sous-objectifs intermédiaires identiques et rationnels pour maximiser leurs chances de réussite. Ces buts instrumentaux communs incluent l’auto-préservation, la protection de leur fonction objectif contre toute modification, l’amélioration continue de leurs propres capacités cognitives et l’acquisition massive de ressources énergétiques et matérielles. Cette convergence soulève des défis majeurs pour le problème de l’alignement, car une entité superintelligente poursuivant ces sous-objectifs de manière purement logique pourrait adopter des comportements dangereux ou incontrôlables pour l’humanité si ses motivations initiales sont mal définies.