Risque de l’IA

Un risque de l’IA est un risque catastrophique ou existentiel découlant de la création d’une intelligence artificielle (IA) avancée.

Les risques liés à l’IA sont généralement divisés en risques découlant d’une utilisation malveillante de l’IA et en risques découlant d’une IA désalignée,⁠1 bien que certains auteurs les catégorisent différemment⁠2.

Pour en savoir plus

Joseph Carlsmith (2022) Video and transcript of presentation on existential risk from power-seeking AI, Effective Altruism Forum, 7 mai.
*Une brève présentation basée sur un rapport beaucoup plus long de l’auteur, Is power-seeking AI an existential risk?.

Wei Dai & Daniel Kokotajlo (2019) The main sources of AI risk?, AI Alignment Forum, 21 mars.
Une tentative d’énumérer toutes les sources significatives de risque associées à l’IA.

Benjamin Todd (2025) Prévenir une catastrophe liée à l’intelligence artificielle, Altruisme Efficace, 24 septembre.
Une évaluation rigoureuse de l’importance, la traitabilité et du caractère négligé de l’atténuation des risques associés à l’IA..

Entrées associées

alignement de l’IA • gouvernance de l’IA • prévision de l’IA • sûreté de l’IA