Projets concrets en biosécurité (dont certains pourraient avoir un impact très important)
Voici une liste de projets de biosécurité long-termistes. Nous pensons que la plupart d’entre eux pourraient réduire le risque biologique catastrophique de plus de 1 % environ par rapport à la marge actuelle (en termes relatifsa). Bien que nous soyons convaincus qu’il y a un travail important à faire dans chacun de ces domaines, notre confiance dans les différentes voies varie considérablement et les détails de chaque idée n’ont pas fait l’objet d’une étude approfondie.
Néanmoins, nous considérons ces domaines comme des éléments essentiels de l’infrastructure de biosécurité et nous aimerions que des progrès soient accomplis dans leur mise en place. Si vous souhaitez être tenu au courant des possibilités de participation, veuillez remplir ce formulaire Google.
La détection précoce d’une menace biologique augmente le temps dont nous disposons pour réagir (par exemple, concevoir des contre-mesures adaptées, utiliser des équipements de protection, se réfugier dans des bunkers, etc.) L’approche actuelle en matière d’alerte précoce des nouveaux agents pathogènes présente de graves lacunes : elle repose généralement sur un médecin particulièrement perspicace qui se rend compte que quelque chose est étrange et que les tests pour tout le reste se révèlent négatifs. Les systèmes existants sont également presque exclusivement axés sur les agents pathogènes connus, et nous pourrions faire beaucoup mieux en utilisant des systèmes de diagnostic qui ne sont pas spécifiques à certains agents pathogènes et qui sont donc capables de détecter des agents inconnus.
Un objectif concret serait de mettre en place un système simple dans lequel une petite équipe collecterait des échantillons auprès de voyageurs volontaires dans le monde entier et procéderait ensuite à une analyse métagénomique complète pour détecter tout ce qui pourrait être dangereux.b Même la collecte et l’analyse de seulement 100 échantillons aléatoires par jour pourraient faire une grande différence dans certains scénarios, car cela signifierait que nous pourrions tout de même détecter certains éléments avant qu’ils n’infectent une trop grande partie de la population mondiale. Nous pensons qu’avec la bonne équipe, cela pourrait être réalisé avec une technologie proche de celle qui existe déjà pour moins de 50 millions de dollars par an.
Il existe une poignée de goulets d’étranglement et plusieurs façons de décomposer ce problème. Pour commencer à travailler sur les sous-problèmes, l’un d’entre nous (Ethan) travaille sur une liste de suggestions, que nous mettrons en lien ici.
La plupart des équipements de protection individuelle (EPI) ne sont pas suffisants. Les masques et les combinaisons nécessitent une formation pour être correctement ajustés, ne sont pas réutilisables et sont généralement conçus pour des utilisations de routine plutôt que pour les événements les plus extrêmes. La petite minorité d’EPI conçus pour des cas d’utilisation extrêmes (par exemple les combinaisons BSL4 ou les EPI de qualité militaire) est encombrante, très restrictive et insuffisante – ce n’est pas le genre d’équipement que l’on pourrait facilement faire porter à des millions de travailleurs des secteurs de la santé, de l’industrie pharmaceutique ou des services essentiels en cas de besoin. Il semble plausible qu’avec une bonne science des matériaux et une bonne conception des produits, nous puissions mettre au point une nouvelle génération d’EPI qui soit à la fois très efficace dans les cas extrêmes, facile à utiliser, fiable sur de longues périodes et bon marché/abondant.
Un objectif commercial concret serait de produire une combinaison (et un système d’accompagnement) conçue pour permettre aux personnes gravement immunodéprimées de mener une vie relativement normale, à un coût suffisamment bas pour convaincre le gouvernement américain d’acquérir 100 millions d’unités pour le Strategic National Stockpile.d Un autre objectif serait que la combinaison réponde simultanément à des spécifications de niveau militaire, par exemple en protégeant contre une attaque directe à l’anthrax.
L’EPI présente l’avantage d’être véritablement « agnostique », c’est-à-dire que nous pouvons le stocker avant de connaître la menace, contrairement aux vaccins ou à de nombreuses contre-mesures médicales. Il est également « stable sur le plan défensif » en ce sens que les barrières physiques ne peuvent pas être facilement contournées à l’aide de techniques d’ingénierie des agents pathogènes (alors que de nombreuses contre-mesures médicales peuvent être mises en échec grâce à un bricolage créatif). Voir l’article de Carl Shulman ici pour plus d’informations à ce sujet.
Pour commencer à aborder les sous-problèmes liés à l’EPI, l’un d’entre nous (Ethan) publiera un article sur l’EPI plus approfondi à l’avenir (lien à venir).
Les contre-mesures médicales (par exemple, les vaccins, les antiviraux, les anticorps monoclonaux) destinées à lutter contre les risques biologiques catastrophiques présentent un certain nombre d’inconvénients. Dans la plupart des cas, elles sont adaptées à des agents pathogènes existants (par exemple, les vaccins contre la variole) et ne seraient d’aucune utilité contre une nouvelle menace. De nombreuses contre-mesures ne sont pas non plus résistantes à une ingénierie délibérée (par exemple, les antibiotiques sont à large spectre mais peuvent être contournés).
Nous pensons qu’il pourrait y avoir des possibilités d’améliorer radicalement les contre-mesures médicales contre les risques biologiques catastrophiques mondiaux, soit en 1) produisant des contre-mesures ciblées contre des menaces particulièrement préoccupantes (ou des contre-mesures à large spectre contre une classe de menaces), soit en 2) créant des plates-formes de réponse rapide qui sont fiables même contre des adversaires délibérés.
Toutefois, nous ne sommes pas encore prêts à recommander les contre-mesures médicales comme domaine d’intérêt général pour les projets à grande échelle, en partie parce que de nombreux projets dans ce domaine présentent des risques involontaires (par exemple, les plateformes qui utilisent des vecteurs viraux peuvent accélérer la technologie de l’ingénierie virale). Si vous souhaitez travailler dans ce domaine, remplissez le formulaire Google (ici) et nous pourrons peut-être vous donner des conseils plus personnalisés.
À l’heure actuelle, la Convention sur les armes biologiques (CABT) — le traité international qui interdit les armes biologiques – ne compte que quatre personnes et ne dispose d’aucune forme de vérification. Nous pensons qu’il est possible de trouver des moyens créatifs de renforcer le traité (par exemple, des prix pour les lanceurs d’alerte), ou de créer de nouveaux accords bilatéraux et d’éviter les blocages bureaucratiques. En outre, une équipe de personnes parcourant les sources ouvertes (c’est-à-dire les dossiers de publication, les fiches de poste, les chaînes d’approvisionnement en matériel) pourrait potentiellement empêcher un laboratoire de mener de mauvaises recherches en toute impunité, et ainsi renforcer le traité.
Les techniques de stérilisation qui reposent sur des principes physiques (par exemple les rayonnements ionisants) ou sur des propriétés antiseptiques générales (par exemple le peroxyde d’hydrogène, l’eau de Javel) plutôt que sur des détails moléculaires (par exemple les antibiotiques à Gram négatif) ont l’avantage d’être largement applicables, d’être difficiles à contourner et d’avoir un faible potentiel d’inconvénients en matière de double usage.
Les technologies existantes pour la stérilisation physique (par exemple la lumière UV, la science des matériaux pour les surfaces antimicrobiennes, etc.) ont des limites différentes en termes de coûts, de commodité et de praticité, et nous pensons qu’il s’agit d’un domaine sous-exploré pour la prévention et le développement de contre-mesures. Il reste beaucoup d’incertitudes dans ce domaine, mais nous pensons qu’il est important de l’étudier.
Les bunkers existants offrent un niveau de protection assez élevé, mais nous pensons qu’il serait possible de créer des refuges spécialement conçus pour se prémunir contre les pandémies catastrophiques (par exemple, en faisant un roulement de personnes qui entrent et sortent en effectuant des tests approfondis et non-spécifiques à certains agents, en ajoutant un « kit de redémarrage de la civilisation », et peut-être même en ayant la capacité de développer et de déployer des contre-mesures biologiques à partir de l’espace protégé). De cette manière, une partie de la population humaine est toujours en quarantaine préventive.
Une autre façon de présenter les choses : de nombreuses personnes pensent que nous réduirions considérablement les risques biologiques si nous avions une colonie autonome sur Mars (et nous sommes fondamentalement d’accord). Si c’est le cas, il serait beaucoup moins coûteux de mettre en place exactement la même infrastructure sur Terre, et cela permettrait d’obtenir pratiquement le même niveau de protection.
La prochaine étape serait de créer une organisation spécialisée dans les opérations, la logistique et les relations avec les entrepreneurs nécessaires à la construction d’un refuge avec les aménagements nécessaires (sur la base d’une enquête superficielle, l’un d’entre nous, ASB, a évalué l’externalisation à environ 100-300 millions de dollars par bunker, mais n’avait pas l’expertise logistique ou le temps de creuser plus profondément). Nous avons d’autres idées en cours d’élaboration que nous mettrons en lien ici plus tard, mais n’hésitez pas à remplir le formulaire si vous êtes intéressé.
Nous tenons à souligner quelques points :
Malgré le caractère prometteur et extensible de certaines interventions en matière de biosécurité, nous ne pensons pas nécessairement que la biosécurité devrait représenter une part beaucoup plus importante de l’effort long-termiste qu’elle ne l’est actuellement. D’un point de vue purement long-termiste, nous pensons que l’IA pourrait être entre 10 et 100 fois plus importante que la biosécurité, même si la résolution du problème de la biosécurité pourrait être plus facile que celle de l’IA (peut-être par un facteur important). La biosécurité est également intéressante en tant que domaine d’action pour des raisons non long-termistes, étant donné l’importance de la prévention de catastrophes de moindre ampleur qui ne mettent pas véritablement fin à la civilisation mais qui sont tout de même horribles (par exemple, 10-100x COVID) – nous pensons donc qu’elle pourrait être encore plus attrayante pour ceux qui se concentrent davantage sur les impacts sur la ou les générations actuelles.
Une fois de plus, veuillez remplir ce formulaire de coordination pour rester informé des développements et des opportunités dans ce domaine.
Nous remercions Chris Bakerlee, Jamie Balsillie, Kevin Esvelt, Kyle Fish, Cate Hall, Holden Karnofsky, Grigory Khimulya, Mike Levine et Carl Shulman pour leurs commentaires sur cet article.
Ce travail est placé sous une licence Creative Commons Attribution 4.0 Licence Internationale.