Exercice pour « Que pourrait nous réserver l’avenir ? Et pourquoi s’en soucier ? »
Aider dans le présent ou dans l’avenir ?
Un point de vue commun à la communauté de l’EA est qu’il est extrêmement important de commencer par réfléchir à ce que signifie réellement faire une différence, avant de penser à des moyens spécifiques de le faire. Il est difficile de faire le plus de bien possible si nous n’avons pas essayé de nous faire une idée plus claire de ce que signifie faire le bien, et comme nous l’avons vu au chapitre 3, clarifier nos points de vue à ce sujet peut être une tâche assez complexe.
L’un des engagements fondamentaux de l’altruisme efficace est l’idéal éthique de l’impartialité. Bien que dans la vie normale, nous puissions raisonnablement avoir des obligations particulières (par exemple envers nos amis et notre famille), dans leurs efforts altruistes, les altruistes efficaces aspirants s’efforcent d’éviter de privilégier les intérêts des autres sur la base de facteurs arbitraires tels que leur apparence, leur race, leur sexe ou leur nationalité.
Le long-termisme postule que nous devrions également éviter de privilégier les intérêts des individus en fonction de l’époque à laquelle ils pourraient vivre.
Dans l’exercice de ce chapitre, nous réfléchirons à quelques questions pour vous aider à commencer à réfléchir à ce que vous pensez de cette question, à savoir : « Les intérêts des personnes qui ne sont pas encore en vie ont-ils autant d’importance que les intérêts des personnes qui vivent aujourd’hui ? »
Veuillez lire cette brève description de l’actualisation temporelle, puis prenez quelques minutes pour réfléchir à chaque question et notez vos réflexions – n’hésitez pas à noter les incertitudes ou les questions ouvertes qui vous semblent pertinentes. Nous vous encourageons à noter votre processus de réflexion, mais n’hésitez pas à simplement faire part de vos intuitions et de vos sentiments.
Bien entendu, ces expériences de pensée supposent toutes un niveau irréaliste de certitude quant à vos options et à leurs résultats. Toutefois, dans le cadre de cet exercice, nous vous encourageons à accepter les prémisses des expériences de pensée au lieu d’essayer de trouver des échappatoires. L’idée est d’isoler un aspect particulier d’une situation (par exemple, le moment de notre impact) et d’essayer d’atteindre nos intuitions morales .
Une question (parmi beaucoup d’autres) qui se rapporte à ce sujet est la suivante : « Quand développerons-nous une IA de niveau humain ? ».
Il n’est évidemment pas possible de se contenter d’une simple recherche ou de recueillir des données directes sur cette question. Nous devons donc rassembler les données et les arguments dont nous disposons et émettre un jugement. Cela s’applique à l’IA et à d’autres risques existentiels, mais aussi à la plupart des questions qui nous intéressent : « Combien de poulets évolueront vers de meilleurs changements si nous poursuivons cette campagne de sensibilisation ? », « Combien devons-nous dépenser en moustiquaires pour sauver une vie ? ».
Ces jugements sont vraiment importants : ils peuvent faire une grande différence dans l’impact que nous avons.
Malheureusement, nous n’avons pas encore de réponses définitives à ces questions, mais nous pouvons nous efforcer d’être « bien calibrés ». Cela signifie que lorsque vous dites que vous êtes confiant à 50 %, vous avez raison environ 50 % du temps, ni plus ni moins ; lorsque vous dites que vous êtes confiant à 90 %, vous avez raison environ 90 % du temps ; et ainsi de suite.
Cet exercice a pour but de vous aider à devenir bien calibré. L’application que vous utiliserez contient des milliers de questions — suffisamment pour plusieurs heures d’entraînement à la calibration — qui mesureront le degré de précision de vos prédictions et permettront de suivre vos progrès au fil du temps. Personne n’est parfaitement calibré ; en fait, la plupart d’entre nous sont trop confiants. Mais plusieurs études montrent que ce type de formation peut rapidement améliorer la précision de vos prédictions.
Bien sûr, la plupart du temps, nous ne pouvons pas vérifier les réponses aux questions que la vie nous pose, et les prédictions que nous essayons de faire dans la vie réelle visent des événements complexes. L’outil Calibrez votre jugement vous aide à vous entraîner sur des situations plus simples où la réponse est déjà connue, en vous fournissant un retour d’information immédiat pour vous aider à vous améliorer.
Essayez l’application Calibrez votre jugement pendant environ 30 minutes !