Progrès différentiel

Le progrès différentiel consiste à accélérer les progrès qui réduisent les risques et à retarder les progrès qui les augmentent.

Le progrès différentiel peut être considéré comme une généralisation de la proposition, faite pour la première fois par Nick Bostrom, d’accélérer le progrès technologique réduisant les risques et de retarder le progrès technologique augmentant les risques⁠1. Cette proposition, que Bostrom appelle , a d’abord été présentée comme une alternative au point de vue selon lequel le progrès technologique dans son ensemble devrait être ralenti en réponse aux préoccupations relatives au . Selon Bostrom, étant donné que la technologie peut à la fois augmenter et diminuer le risque, la réponse appropriée consiste à traiter différemment les technologies ayant des effets différents sur le risque, plutôt que d’adopter une politique générale de ralentissement technologique. Dans des publications plus récentes, Bostrom donne au terme « technologie » un sens plus large, qui englobe « non seulement les gadgets, mais aussi les méthodes, les techniques et les principes de conception des institutions »⁠, ainsi que « les idées scientifiques, les conceptions institutionnelles, les techniques organisationnelles, les idéologies, les concepts et les mèmes ».⁠ Lorsque la notion de développement technologique différentiel est combinée à cette compréhension large de la technologie, elle devient à peu près équivalente au progrès différentiel, plutôt que d’en être un cas particulier.