Thèse de la convergence instrumentale
La thèse de la convergence instrumentale désigne le recoupement présumé des objectifs instrumentaux que devrait présenter une vaste catégorie de systèmes IA avancés, en raison de leur utilité pour l’accomplissement d’un large éventail de finalités potentielles.
Les objectifs instrumentaux généralement escomptés vers lesquels convergeraient tous les agents intelligents sont l’autoconservation, la préservation des objectifs et l’acquisition de ressources.
Nick Bostrom (2012) The superintelligent will: motivation and instrumental rationality in advanced artificial agents, Minds and Machines, vol. 22, p. 71–85.
Eliezer Yudkowsky (2013) Five theses, two lemmas, and a couple of strategic implications, Machine Intelligence Research Institute’s Blog, 5 mai.