Coup de semonce
Un coup de semonce est une catastrophe planétaire qui réduit indirectement le risque existentiel en augmentant la crainte de catastrophes futures.
L’expression signal d’avertissement est parfois utilisée pour décrire tout événement qui accroît l’inquiétude concernant une catégorie particulière de risque existentiel, indépendamment du fait que l’événement lui-même constitue ou non une catastrophe planétaire. Par exemple, les candidats plausibles pour un signal d’avertissement en matière d’IA comprennent non seulement une défaillance catastrophique d’un système d’IA, mais aussi des campagnes de sensibilisation du public ou la publication d’un livre exceptionnellement convaincant sur la sûreté de l’IA1.
Une notion connexe est celle d’alarme incendie, un signal d’avertissement qui crée une connaissance commune qu’une certaine technologie —typiquement l’intelligence artificielle avancée— pose en réalité un risque existentiel2.
Notons toutefois que les termes « coup de semonce » et « alarme incendie » sont parfois utilisés comme synonymes de « signal d’avertissement »3.
Nick Beckstead (2015) The long-term significance of reducing global catastrophic risks, Open Philanthropy, 13 août.
Joseph Carlsmith (2021) Is power-seeking AI an existential risk?, Open Philanthropy, avril, sec. 6.2.