Totalitarisme
Le totalitarisme est un système de gouvernement qui exerce un contrôle quasi total sur tous les aspects de la vie des individus. Le totalitarisme robuste peut être défini comme un type de totalitarisme particulièrement efficace pour imposer sa vision idéologique et prévenir les menaces internes et externes à son autorité.
Benito Mussolini a caractérisé le totalitarisme comme « tout dans l’État, rien en dehors de l’État, rien contre l’État »1 Les chercheurs contemporains ont répertorié plusieurs caractéristiques distinctives des régimes totalitaires. Ces caractéristiques comprennent une idéologie officielle radicale, généralement excluante et orientée vers l’avenir ; un parti unique, généralement dirigé par un seul homme ; un monopole des moyens de persuasion et de coercition ; une économie planifiée centralement, dans laquelle la plupart des activités professionnelles font partie de l’État ; et une polarisation extrême et un recours généralisé à la terreur dans tous les aspects de la vie. On estime que les régimes totalitaires ont été responsables de la mort de plus de 125 millions de personnes au 20e siècle, principalement en Union soviétique, dans l’Allemagne nazie et dans la Chine communiste À cette perte tragique de vies humaines, il convient d’ajouter la perte majeure de subie par ceux qui vivent sous de tels régimes.
En raison de son échelle, la menace d’un totalitarisme robuste constitue un risque catastrophique mondial. Si le régime totalitaire a le potentiel d’être à la fois global et stable, il pourrait également constituer un risque existentiel — plus précisément un risque de dystopie irrécupérable.
Les progrès de l’intelligence artificielle dans des domaines tels que la détection des mensonges, la persuasion sociale et la tromperie, les armes autonomes et la surveillance omniprésente pourraient consolider les régimes totalitaires existants. Ces développements peuvent également faire glisser les démocraties vers le totalitarisme4. Mais, d’autre part, l’IA pourrait potentiellement déstabiliser les systèmes totalitaires ou protéger contre leur émergence5. À ce jour, il n’existe pas d’analyse détaillée de l’impact potentiel de l’intelligence artificielle sur le risque de totalitarisme robuste. La littérature sur le totalitarisme robuste en général est elle-même très réduite6.
80 000 Hours considère les risques de totalitarisme robuste comme un « domaine potentiellement plus haute priorité » : une question qui, si elle était examinée plus en profondeur, pourrait se classer parmi les principaux défis mondiaux7.
De nombreuses ressources supplémentaires sur ce sujet.
Bryan Caplan (2008) The totalitarian threat, in Nick Bostrom & Milan M. Ćirković (éd.), Global Catastrophic Risks, Oxford: Oxford University Press, p. 504–519.