Risques liés aux acteurs malveillants
Les risques liés aux acteurs malveillants sont des risques posés par des individus présentant des traits de personnalité narcissiques, psychopathiques, sadiques ou d’autres traits de personnalité socialement nuisibles1.
La malveillance peut être définie comme le facteur général qui explique les corrélations observées entre les traits de personnalité négatifs — ce que l’on appelle le « noyau sombre » (de l’anglais dark core) de la personnalité2. Les personnes qui obtiennent un score exceptionnellement élevé pour ce facteur général pourraient faire peser de graves risques sur l’avenir à long terme de l’humanité, y compris des risques existentiels et des risques de souffrance astronomique. Ces personnes semblent plus susceptibles que la moyenne d’atteindre des positions de pouvoir au sein du gouvernement et de l’industrie. Et au cas où elles acquièrent cette influence, elles sont également beaucoup plus susceptibles de causer des dommages importants.
Les types de risques liés aux acteurs malveillants au pouvoir sont très variés. Ils comprennent la propagation d’idéologies extrémistes et dangereuses, l’escalade des conflits entre grandes puissances, la formation de régimes totalitaires et l’affaiblissement des institutions publiques et de la coordination mondiale. Cependant, comme la malveillance a une influence négative large, il est probablement préférable de la considérer comme un facteur de risque plutôt que comme un type de risque distinct.
Dans un essai pionnier sur le sujet, David Althaus et Tobias Baumann ont proposé plusieurs interventions pour réduire les risques liés aux acteurs malveillants3, notamment en faisant progresser la science de la malveillance — en alignant les concepts sur les formes de malveillance moralement pertinentes et en développant des mesures de la malveillance à l’épreuve des manipulations — et en promouvant des réformes politiques pour rendre moins probable la montée en puissance des acteurs malveillants. En outre, étant donné que les acteurs malveillants posent probablement les risques les plus graves dans les scénarios où ils ont accès à la technologie transformatrice, les auteurs proposent également de façonner le développement de ces technologies pour atténuer les préjudices causés par ces individus, par exemple en réduisant la présence de traits malveillants dans l’IA et en veillant à ce que les candidats à l’émulation du cerveau entier obtiennent de faibles résultats aux scores de malveillance.
80 000 Hours considère les risques aux acteurs malveillants comme un domaine potentiellement plus haute priorité : une question qui, si elle était examinée plus en profondeur, pourrait se classer parmi les principaux défis mondiaux4.
David Althaus & Tobias Baumann (2020) Reducing long-term risks from malevolent actors, Effective Altruism Forum, 29 avril.