Dystopie
Une dystopie est une civilisation dépourvue de presque toute valeur.
Dans la typologie de Toby Ord, les dystopies irréversibles constituent l’un des trois principaux types de catastrophe existentielle1.
Ord subdivise en outre les dystopies irréversibles en trois types. Une dystopie peut être désirée par aucun, quelques ou la plupart des acteurs qui la vivent. Ord les appelle respectivement dystopies non désirées, dystopies forcées et dystopies désirées2.
Les dystopies forcées sont le type de dystopie qui nous est le plus familier. Dans la fiction, elles sont surtout représentées par George Orwell dans 1984 : « Si vous voulez une image de l’avenir, imaginez une botte piétinant un visage humain, pour toujours. »3 En dehors de la fiction, la Corée du Nord offre sans doute un exemple de dystopie locale stable.4 Les dystopies forcées fictives et réelles prennent souvent la forme d’un totalitarisme robuste, bien que cela ne soit pas forcément nécessaire.
De prime abord, les dystopies non désirées peuvent sembler improbables. Si personne ne désire un monde, pourquoi devrions-nous nous attendre à ce qu’il existe ? La réponse est liée au décalage qui peut parfois se produire entre les préférences individuelles et collectives : ce qui est rationnel pour chacun peut être irrationnel pour tous. Il peut être préférable pour chaque individu de consommer les ressources sans retenue, indépendamment de ce que font les autres individus ; mais si tout le monde agit de la sorte, il peut en résulter un épuisement des ressources, ce qui est pire pour tout le monde qu’une alternative dans laquelle chacun modère sa consommation. Scott Alexander propose un exemple de dystopie indésirable possible5 : imaginez une société régie par deux règles simples : premièrement, chaque personne doit passer huit heures par jour à s’administrer de puissants chocs électriques ; deuxièmement, si quelqu’un ne respecte pas l’une ou l’autre de ces règles, tout le monde doit s’unir pour tuer cette personne. Le résultat est un monde dans lequel tout le monde se donne des chocs électriques, puisqu’ils savent qu’ils seront tués sinon. Comme le résume Alexander, « chaque citoyen déteste le système, mais faute d’un bon mécanisme de coordination, il perdure »6.
Tout comme on peut se demander pourquoi des dystopies non désirées existeraient, on peut se demander pourquoi des dystopies désirées seraient dystopiques. Un exemple pertinent a été fourni par Nick Bostrom.7 L’externalisation de masse vers des téléchargements numériques ou des agents IA pourrait finalement aboutir à un monde entièrement dépourvu de conscience phénoménale. Cela pourrait se produire s’il s’avérait que les états conscients ne pouvaient pas être instanciés in silico. Cela pourrait également se produire si, dans cet environnement radicalement nouveau, la conscience était rejetée en raison de fortes pressions évolutives. Il pourrait, par exemple, être plus efficace en termes de calcul de représenter explicitement la fonction d’utilité d’un agent plutôt que de s’appuyer sur une architecture de récompense hédoniste. Selon un grand nombre de théories, le bien-être requiert la conscience (bien qu’il puisse ne pas se réduire à la conscience), de sorte qu’un tel monde serait dépourvu de patients moraux, quelle que soit la prospérité apparente pour les observateurs extérieurs ou l’insistance avec laquelle les habitants du monde peuvent affirmer qu’ils sont conscients ou que leur vie vaut la peine d’être vécue. Bostrom décrit une société imaginaire « technologiquement très avancée, contenant de nombreuses sortes de structures complexes, dont certaines sont beaucoup plus intelligentes et complexes que tout ce qui existe aujourd’hui, dans laquelle il y aurait néanmoins une absence totale de tout type d’être dont le bien-être a une signification morale. En un sens, il s’agirait d’une société inhabitée. Tous les types d’êtres dont nous nous préoccupons, même de loin, auraient disparu ».8 Certains aspects de ce futur dystopique possible peuvent être observés aujourd’hui dans la vie de certains animaux non humains élevés pour la consommation humaine9.
Puisque le concept de dystopie est défini en termes d’absence de valeur du monde ainsi caractérisé, le fait que quelque chose soit ou non une dystopie peut varier en fonction de la théorie morale considérée. Dans l’utilitarisme classique, par exemple, il existe une énorme différence de valeur entre les mondes optimisés pour l’expérience positive et un monde apparemment désirable où chacun jouit de la qualité de vie des citoyens les plus privilégiés des nations les plus prospères d’aujourd’hui. L’enracinement permanent de ce dernier type de monde peut donc, selon cette théorie, compter comme une dystopie, dans le sens où la plupart des valeurs atteignables n’auraient pas été réalisées. Inversement, bien que le scénario dystopique des « sous-traitants inconscients » (unconscious outsourcers) de Bostrom soit catastrophique pour de nombreuses théories morales plausibles, il pourrait ne pas l’être du point de vue de l’éthique centrée sur la souffrance.
Michael Aird (2020) Collection of sources related to dystopias and “robust totalitarianism”, Effective Altruism Forum, 30 mars.
De nombreuses ressources supplémentaires sur ce sujet.
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, London: Bloomsbury Publishing, pp. 153-158.