Braquage de Pascal
Le braquage de Pascal est une expérience de pensée destinée à soulever un problème pour la théorie de la valeur espérée. Contrairement au pari de Pascal, le braquage de Pascal n’implique pas d’utilités ou de probabilités infinies, de sorte que le problème qu’il soulève est distinct des paradoxes connus de l’infini.
L’expérience de pensée et son nom sont apparus pour la première fois dans un billet de blog d’Eliezer Yudkowsky.1 l’a ensuite développée sous la forme d’un dialogue fictif.
Dans la formulation originale de Yudkowsky, une personne est abordée par un agresseur qui n’est pas armé, mais qui menace de tuer un nombre astronomique de personnes à moins que la personne agressée n’accepte de lui donner cinq dollars. Même en considérant une probabilité infime que l’agresseur soit réellement en mesure de tenir sa promesse, donner cinq dollars à l’agresseur semble une meilleure décision, en terme de valeur espérée, que de ne pas le faire. La probabilité que l’agresseur veuille et puisse effectivement décider de la survie d’un nombre astronomique de personnes est effectivement minuscule, mais cela est plus que compensé par la valeur énorme de ce qui est en jeu. (Si l’on estime que la probabilité est trop faible, on peut augmenter arbitrairement le nombre de vies que l’agresseur menace de tuer). L’expérience de pensée est censée poser un problème pour la théorie de la valeur espérée, car il semble intuitivement absurde de donner de l’argent à l’agresseur (puisque il n’est pas armé et probablement pas en mesure de mettre ses menaces à exécution), alors que c’est ce que la théorie implique apparemment.
Diverses réponses ont été élaborées. L’une d’entre elles consiste à réviser ou à rejeter la théorie de la valeur espérée. Une révision fréquente consiste à ignorer les scénarios dont la probabilité est inférieure à un certain seuil.
Cette réponse présente toutefois un certain nombre de problèmes. L’un d’eux est que le seuil semble arbitraire, quel que soit l’endroit où il est fixé. Un critique pourrait toujours dire : « Pourquoi fixer le seuil à cette valeur, plutôt qu’à une valeur supérieure ou inférieure d’un ordre de grandeur ? » Un problème plus fondamental est qu’il semble que la question de savoir si un scénario se situe en dessous ou au-dessus d’un certain seuil dépende de la manière dont l’espace des possibilités est découpé. Par exemple, un risque existentiel de probabilité 1 % par siècle peut être décrit comme un risque existentiel de probabilité 1 sur 5,2 milliards par minute. Si le seuil est fixé à une valeur comprise entre ces deux nombres, la question de savoir si l’on doit ou non ignorer le risque dépendra simplement de la manière dont on le décrit.
Une autre solution consiste à adopter des probabilités a priori qui pénalisent les hypothèses proportionnellement au nombre de personnes qu’elles impliquent d’affecter. En d’autres termes, on pourrait adopter un point de vue selon lequel il y a environ une chance sur 10n que quelqu’un ait le pouvoir d’affecter 10n personnes. Compte tenu de cette pénalité, l’agresseur ne peut plus recourir à l’expédient consistant à augmenter le nombre de personnes qu’il menace de tuer afin de rendre l’offre suffisamment attrayante, puisque cela réduit du même coup notre estimation de la probabilité qu’il soit effectivement en mesure de le faire. À mesure que le nombre de personnes augmente, la probabilité qu’elles soient tuées par l’agresseur diminue proportionnellement, et la valeur espérée de ses propositions successives reste la même.
Une dernière solution consiste à « serrer les dents » et à accepter que si la proposition de l’agresseur est effectivement meilleure en termes de valeur attendue, et qu’il faut effectivement lui donner les cinq dollars. Cette approche devient plus plausible lorsqu’elle est combinée à une explication critique de l’intuition selon laquelle il serait absurde de payer l’agresseur. Par exemple, on peut dire que le cerveau humain ne peut pas représenter de manière adéquate des nombres très grands ou très petits et que, par conséquent, les intuitions déclenchées par des expériences de pensée utilisant de telles quantités ne sont pas fiables et ne devraient pas avoir beaucoup de poids en tant que preuve.
Quelle que soit la réponse que l’on donne au braquage de Pascal, il est important de noter qu’il ne semble pas affecter la valeur attribuée aux causes ou interventions « à grands enjeux » priorisées au sein de la communauté de l’altruisme efficace, telles que la recherche sur la sûreté IA ou d’autres formes d’atténuation du risque existentiel. Les arguments en faveur d’un travail sur ces causes ne sont pas fondamentalement différents d’arguments plus banals qui ne relèvent pas de manière plausible du braquage de Pascal, comme le fait de voter à une élection3.
Il convient également de souligner que le braquage de Pascal implique à la fois des enjeux très élevés et des probabilités très faibles, mais le terme est parfois appliqué à tort à des cas impliquant des enjeux élevés, indépendamment de leur probabilité4.
Nick Bostrom (s. d.) Le braquage de Pascal, Nick Bostrom’s Website.
Eliezer Yudkowsky (2007) Pascal’s mugging: tiny probabilities of vast utilities, LessWrong, 19 octobre.