Ère des périls
L’ère des périls est une période hypothétique de l’histoire de l’humanité au cours de laquelle le risque existentiel est exceptionnellement élevé. L’hypothèse de l’ère des périls** est l’opinion selon laquelle nous vivons actuellement une ère des périls.
Carl Shulman a soutenu que l’ère des périls ne durera probablement que quelques siècles en raison de divers développements technologiques qui, combinés, devraient finir par réduire drastiquement le risque existentiel. Comme l’écrit Shulman,1
Il est fort probable que le taux d’extinction/de catastrophe existentielle s’approche de zéro d’ici quelques siècles si la civilisation survit, pour les raisons suivantes :
- La richesse et la technologie nous immunisent totalement contre les catastrophes naturelles. 2. Rendre la détection de microorganismes, la protection, et la stérilisation omniprésentes et bon marché, permet à la civilisation d’être immunisée contre les menaces biologiques 3. Des technologies de pointe immunisent les parties neutres contre les effets de l’hiver nucléaire. 4. La production locale bon marché permet de mettre en place de courtes chaînes d’approvisionnement qui peuvent se reconstituer après une perturbation, le fonctionnement de l’industrie se rapprochant de plus en plus du fonctionnement des biens d’information. 5. La colonisation de l’espace permet de résister aux perturbations locales. 6. L’alignement de l’IA bloque les menaces de l’IA désalignée (et bien d’autres choses). 7. La technologie avancée permet des politiques stables (par exemple, les mêmes systèmes de police par l’IA appliquent les traités interdisant les armes de destruction massive pendant des milliards d’années), ce qui permet probablement au monde d’arriver en fin de compte à une situation stable (peut-être après des hauts et des bas).
William MacAskill (2022) Are we living at the hinge of history? test, in Jeff McMahan et al. (éd.), Ethics and Existence: The Legacy of Derek Parfit, Oxford: Oxford University Press, p. 331–357.