Type d’échec de l’IA
Un type d’échec de l’IA est une façon dont un projet de développement de l’intelligence artificielle peut échouer. Les types d’échec d’une IA malveillante sont des types d’échec d’une IA qui aboutissent à une catastrophe existentielle.
Nick Bostrom classe les types d’échec d’IA malveillante en trois types de base : l’instanciation perverse, qui implique la satisfaction des objectifs d’une IA de manière contraire aux intentions de ceux qui l’ont programmée ; la prolifération des infrastructures, qui implique la transformation de grandes parties de l’univers accessible en infrastructure au service d’un objectif qui empêche la réalisation du potentiel à long terme de l’humanité ; et le crime contre l’esprit, qui implique le mauvais traitement de processus informatiques qui possèdent un statut moral.
Nick Bostrom (2017) Superintelligence,, chap. 8.