Éthique du risque existentiel
L’éthique du risque existentiel est l’étude des questions éthiques liées aux risques existentiels, comprenant les questions relatives à la gravité potentielle d’une catastrophe existentielle, à la pertinence de réduire les risques existentiels, aux raisons pour lesquelles ces choses seraient mauvaises ou bonnes, et aux différences qu’impliquent les divers risques existentiels spécifiques. Il existe un éventail de perspectives variées sur ces questions, et elles ont des implications sur la mesure dans laquelle il convient de prioriser la réduction du risque existentiel en général, et quels risques spécifiques réduire en priorité.
Dans The Precipice, Toby Ord examine cinq « fondements moraux » distincts pour évaluer la valeur de la réduction du risque existentiel, en fonction de si l’accent est mis sur l’avenir, le présent, le passé, les vertus civilisationnelles ou la signification cosmique1.
Dans l’une des premières discussions sur le sujet, Derek Parfit propose l’expérience de pensée suivante :2
Je crois que si nous détruisons l’humanité, comme nous en sommes aujourd’hui capables, cela serait bien pire que ce que l’on pense généralement. Comparons trois résultats :
La paix.
Une guerre nucléaire qui tue 99 % de la population mondiale actuelle.
Une guerre nucléaire qui en tue 100 %.
(2) serait pire que (1), et (3) serait pire que (2). Quelle est la plus grande de ces deux différences ? La plupart pensent que la plus grande différence se situe entre (1) et (2). Je pense que la différence entre (2) et (3) est beaucoup plus grande.
L’échelle de ce qui se perd dans une catastrophe existentielle est déterminée par le potentiel à long terme de l’humanité — toute la valeur qui serait produite si notre espèce survivait indéfiniment. Les ressources de l’univers pourraient subvenir aux besoins d’un total d’environ 1035 êtres humains, ou d’environ 1058 personnes numériques.3 Et cela pourrait ne pas épuiser tout le potentiel à prendre en compte, s’il s’avère que la valeur dépend d’autres choses que des êtres humains ou des esprits sentients, comme le défendent certaines théories morales.
Dans la communauté de l’altruisme efficace, il s’agit probablement de la perspective éthique la plus associée à la réduction des risques existentiels : les risques existentiels sont souvent considérés comme un problème pressant en raison des quantités astronomiques de valeur en jeu, compte tenu du potentiel à long terme de l’humanité.
Des philosophes ont défendu des points de vue sur l’actualisation temporelle ou l’éthique de la population selon lesquels les personnes futures ou contingentes n’ont pas d’importance morale.4 Mais même dans ces cadres, cependant, une catastrophe existentielle pourrait être l’une des pires choses qui puissent se produire) : elle mettrait fin à la vie de tous les patients moraux vivants, détruisant tout ce qui fait la valeur de leur vie, et soumettant très probablement beaucoup d’entre eux à de profondes souffrances. Ainsi, même en mettant de côté la valeur des générations futures, un argument en faveur de la réduction du risque existentiel pourrait se fonder sur la préoccupation pour les individus actuellement en vie.
Ce principe moral en faveur de la réduction du risque existentiel5 centré sur le présent pourrait être qualifié de perspective « court-termiste » ou « centrée sur les personnes affectées ». Dans la communauté de l’altruisme efficace, il semble que ce soit l’argument éthique non long-termiste le plus souvent évoqué en faveur de la réduction du risque existentiel.
L’humanité peut être considérée comme un vaste partenariat intergénérationnel, qui s’efforce d’accroître progressivement son stock d’art, de culture, de richesse, de science et de technologie. Pour reprendre les termes d’Edmund Burke, « Comme les objectifs d’un tel partenariat ne peuvent être atteints qu’après de nombreuses générations, il devient un partenariat non seulement entre ceux qui vivent, mais aussi entre ceux qui vivent, ceux qui sont morts et ceux qui sont à naître. »6 Dans cette optique, une génération qui laisse se produire une catastrophe existentielle peut être considérée comme manquant à un devoir moral envers toutes les générations antérieures7.
Plutôt que de se concentrer sur les impacts de l’action humaine individuelle, on peut considérer les dispositions et les traits de caractère affichés par l’humanité dans son ensemble : c’est ce qu’Ord nomme les vertus civilisationnelles.8 Un cadre éthique qui attache une signification morale intrinsèque à la culture et à l’exercice de la vertu considérerait la non-prise en compte des risques existentiels comme présentant « un défaut manifeste de patience, de prudence et de sagesse »9.
Au début de On What Matters, Parfit écrit que « nous sommes les animaux qui peuvent à la fois comprendre et répondre à la raison. […] Il se pourrait que nous soyions les seuls êtres rationnels de tout l’Univers ». S’il en est ainsi, alors, comme l’écrit Ord, « la responsabilité de l’histoire de l’univers repose entièrement sur nous : c’est notre seule chance d’orienter l’univers vers ce qui est bien, ce qui est juste, ce qui est le mieux pour tous les individus ».10 En outre, c’est peut-être la seule chance pour l’univers de se comprendre lui-même.
Il est important de faire la distinction entre la question de savoir si une perspective éthique donnée considère la réduction du risque existentiel comme présentant un avantage net et la question de savoir si cette perspective éthique donnerait priorité à la réduction du risque existentiel, et cette distinction n’est pas toujours faite11. Une des raisons pour lesquelles cette distinction est importante est que la réduction du risque existentiel peut présenter un caractère d’amélioration et un caractère négligé moins important que d’autres domaines d’action (par exemple, le bien-être des animaux d’élevage), mais que cela est compensé par une importance bien plus grande d’un point de vue long-termiste. Par conséquent, si l’on adopte une perspective éthique qui se contente de considérer la réduction du risque existentiel comme étant d’une importance similaire à celle d’autres grands problèmes mondiaux, la réduction du risque existentiel peut ne plus sembler mériter d’être considérée comme une priorité.
Michael Aird (2021) Why I think The Precipice might understate the significance of population ethics, Effective Altruism Forum, 5 janvier.
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, London: Bloomsbury Publishing, chap. 2.