La possibilité d’une catastrophe morale en cours (résumé)

Il y a quelques années, j’ai fait un résumé de l’excellent article philosophique d’Evan G. Williams, pour un groupe de discussion local. Ce résumé a lentement circulé sur les réseaux de l’AE. Quelqu’un m’a récemment recommandé de le diffuser plus largement, donc le voici.

L’article est lisible et ne se trouve pas derrière un paywall, je vous recommande donc vivement de lire l’article original si vous en avez le temps.

Résumé

I. Affirmation principale

1. Si on présuppose l’objectivisme moral (ou une approximation qui s’en rapproche), nous sommes probablement coupables, à notre insu, d’actes répréhensibles graves et à grande échelle (« catastrophe morale en cours »).

II. Définition : Qu’est-ce qu’une catastrophe morale ? Trois critères :

1. Il doit s’agir d’une faute grave (plus proche de la mort injustifiée ou de l’esclavage que d’insultes ou de désagréments bénins).
2. Elle doit être de grande ampleur (au lieu d’une seule exécution injustifiée ou d’une seule personne torturée).
3. De larges pans de la société sont responsables par leur action ou leur inaction (il ne peut s’agir des actions unilatérales inévitables d’un seul dictateur).

III. Pourquoi il y a probablement des catastrophes morales inconnues. Deux arguments fondamentaux :

1. L’argument inductif
   1. Présupposé : Il est possible de commettre de grandes fautes morales tout en agissant conformément à sa propre morale et à celle de sa société.
   2. Motivation de base : un nazi honnête et sincère semble tout de même agir de manière profondément erronée.
   3. Il n’est pas pertinent de savoir si ces actes répréhensibles sont dus à des croyances empiriques erronées (tous les Juifs font partie d’une grande conspiration mondiale) ou à des valeurs erronées (les Juifs sont des sous-humains et n’ont aucune valeur morale).
   4. Si l’on tient compte de ce présupposé, pratiquement toutes les grandes sociétés de l’histoire ont agi de manière catastrophique et erronée.
   5. Pensez aux conquistadors, aux croisés, aux califats, aux Aztèques, etc. qui ont conquis au nom de Dieu(x), qu’ils qualifiaient de bon et de juste.
   6. Il est peu probable que toutes ces personnes dans l’histoire n’aient fait que proclamer ces croyances sans réellement y adhérer.
   7. Preuve d’existence : Les gens peuvent faire (et font) beaucoup de mal sans en être conscients.
   8. Le fait qu’il y ait des catastrophes morales en cours n’est pas seulement possible mais probable.
   9. Nous ne sommes pas si différents des générations précédentes. Littéralement des centaines de générations pensaient qu’elles avaient raison et qu’elles avaient trouvé la seule vraie morale
   10. Même dans la génération de nos parents, il était courant de penser que certaines personnes avaient plus de droits que d’autres en raison de leur race, de leur sexualité, etc.
   11. Nous vivons une époque de bouleversements moraux, où notre moralité est très différente de celle de nos grands-parents.
   12. Même si une génération finit un jour par comprendre la morale dans son entièreté, cette génération qui a tout compris est probablement une génération dont les parents avaient presque tout compris.
2. L’argument disjonctif
   1. Les activistes ne sont pas exemptés. Même si toutes les causes qui vous tiennent à cœur se réalisent, cela ne veut pas dire que notre société est bonne, car il y a toujours des catastrophes morales inconnues.
   2. Une société peut se tromper lourdement de tellement de façons différentes qu’il est presque impossible d’avoir raison sur absolument tout.
   3. Il ne s’agit pas d’une préoccupation mineure, nous pourrions nous tromper d’une manière qui représente une proportion importante de la gravité de l’Holocauste.
   4. La société pourrait se tromper de bien des manières différentes.
   5. Nous pourrions nous tromper sur les personnes qui ont un statut moral (par exemple, les fœtus, les animaux).
   6. Nous pourrions nous tromper empiriquement sur ce qui nuit ou blesse les personnes moralement importantes (par exemple, l’endoctrinement religieux des enfants).
   7. Nous pourrions avoir raison sur certaines obligations mais pas sur d’autres.
   8. Nous pouvons agir de manière immorale en accordant trop d’attention et en utilisant des ressources pour de fausses obligations morales (comme les croisés).
   9. Nous pourrions avoir raison sur ce qui ne va pas et devrait être corrigé, mais ne pas savoir comment prioriser les différentes corrections.
   10. Nous pourrions avoir raison sur ce qui ne va pas, mais nous tromper sur ce qu’il est ou non de notre responsabilité de réparer (par exemple, la pauvreté, les frontières).
   11. Nous pourrions nous tromper sur l’avenir lointain (natalisme, risque existentiel).
   12. Dans chaque catégorie, il y a plusieurs façons de se tromper.
   13. En outre, certaines s’excluent mutuellement. Par exemple, les pro-vie pourraient avoir raison sur le fait que l’avortement est un grand péché, ou bien les fœtus n’ont pas d’importance et il est tout à fait immoral de priver les femmes de leur liberté en pratiquant, par exemple, des avortements au troisième trimestre.
   14. Il est peu probable que nous nous trouvions actuellement au juste milieu pour tous ces compromis.
   15. La disjonction entre en jeu.
   16. Même si vous pensez que nous avons raison à $95\%$ sur chaque question majeure, et qu’il y a peut-être $15$ questions de ce genre, la probabilité totale que nous ayons raison est peut-être de $95\%^{15} \approx 46\%$ (LZ : suppose l’indépendance).
   17. Dans la pratique, $95\%$ de certitude que nous avons raison sur chaque question majeure semble beaucoup trop confiant, et $15$ questions semble trop peu.

IV. Que devrions-nous faire ?

1. Possibilité écartée : la stratégie de couverture. Si vous n’êtes pas sûr, jouez la carte de la sécurité, moralement parlant.
   1. Par exemple, même si vous pensez que les animaux d’élevage ne sont probablement pas sentients, ou que la sentience n’a pas d’importance morale, vous pouvez devenir végétarien « au cas où »
   2. En général, cela ne fonctionne PAS assez bien parce que ce n’est pas solide : comme on l’a vu, trop de choses peuvent mal tourner, parfois dans des directions contradictoires.
2. Reconnaissance des actes répréhensibles
   1. Essayer activement de comprendre quelles sont les erreurs catastrophiques que nous commettons.
   2. Effectuer davantage de recherches dans des domaines pratiques (par exemple, la conscience animale) où nous pouvons nous tromper de manière critique.
   3. Approfondir la recherche en philosophie morale
   4. Essentiel : il n’est pas bon d’accroître les connaissances technologiques sans accroître la sagesse morale.
   5. Imaginez Gengis Khan avec des armes nucléaires
   6. Ces domaines doivent interagir
   7. Il ne suffit pas que les philosophes disent que les animaux sont importants s’ils sont conscients et que les scientifiques disent que les dauphins sont conscients mais ne savent pas si c’est important… notre société doit être capable d’intégrer ces connaissances.
   8. Il faut un marché des idées où les vraies idées l’emportent.
   9. Un progrès intellectuel rapide est essentiel.
   10. Si cela vaut la peine de mener des guerres pour vaincre les nazis ou mettre fin à l’esclavage, cela vaut la peine d’investir des sommes considérables et de subir des pertes sociétales pour comprendre les erreurs morales que nous commettons actuellement.
3. Mise en œuvre de valeurs améliorées
   1. Une fois que nous aurons déterminé les grandes fautes morales que nous avons commises, nous voudrons être en mesure de réparer moralement les préjudices passés ou, du moins, de cesser de commettre des préjudices futurs de ce genre le plus rapidement possible.
   2. Pour ce faire, il faut maximiser la flexibilité des conditions matérielles
   3. Les sociétés extrêmement pauvres ou déchirées par la guerre ne seraient pas en mesure de procéder rapidement aux changements moraux nécessaires.
   4. Exemple de LZ : Les systèmes complexes construits selon des modèles spécifiques sont moins résistants aux chocs ainsi que plus difficiles à modifier (cf. Antifragile).
   5. De la même manière que nous stockons des ressources pour nous préparer à la guerre, nous pourrions vouloir économiser des ressources pour les futures urgences morales, afin de pouvoir, par exemple, payer des réparations, ou au moins effectuer rapidement les changements nécessaires.
   6. LZ : Il n’est pas certain que cela soit possible dans la pratique. Par exemple, les individus épargnent généralement en investissant, et les gouvernements épargnent en achetant la dette d’autres gouvernements ou en investissant dans le secteur privé, mais la manière dont le monde « épargne » dans son ensemble n’est pas claire.
   7. Il faut maximiser la flexibilité des conditions sociales
   8. Même s’il est matériellement possible d’apporter des changements importants, la société peut rendre ces changements très difficiles, en raison de l’inertie et du conservatisme.
   9. Les amendements constitutionnels, par exemple, sont suspects.

V. Conclusion/Autres remarques

1. Contre-considération 1 : Construire une société capable de corriger les catastrophes morales n’est pas la même chose que de corriger réellement les catastrophes morales.
2. Contre-considération 2 : Plusieurs des mesures suggérées ci-dessus pour se préparer à corriger les catastrophes morales peuvent elles-mêmes être néfastes.
   1. Par exemple, l’argent dépensé pour la recherche morale aurait pu être consacré à la lutte contre la pauvreté dans le monde, la construction d’une société maximalement flexible pourrait impliquer des restrictions draconiennes sur les droits des personnes actuelles.
3. Cependant, ceci vaut la peine d’être fait à court terme.

---

Ce travail est placé sous une licence Creative Commons Attribution 4.0 Licence Internationale.

---

Publication originale : Linchuan Zhang (2019) The possibility of an ongoing moral catastrophe (Summary), Effective Altruism Forum, 2 août.

Traduction de : Baptiste Roucau.