Risque de l’IA
Un risque de l’IA est un risque catastrophique ou existentiel découlant de la création d’une intelligence artificielle (IA) avancée.
Les risques liés à l’IA sont généralement divisés en risques découlant d’une utilisation malveillante de l’IA et en risques découlant d’une IA désalignée,1 bien que certains auteurs les catégorisent différemment.
Joseph Carlsmith (2022) Video and transcript of presentation on existential risk from power-seeking AI, Effective Altruism Forum, 7 mai.
*Une brève présentation basée sur un rapport beaucoup plus long de l’auteur, Is power-seeking AI an existential risk?.
Wei Dai & Daniel Kokotajlo (2019) The main sources of AI risk?, AI Alignment Forum, 21 mars.
Une tentative d’énumérer toutes les sources significatives de risque associées à l’IA.
Benjamin Todd (2025) Prévenir une catastrophe liée à l’intelligence artificielle, 24 septembre.
Une évaluation rigoureuse de l’importance, la traitabilité et du caractère négligé de l’atténuation des risques associés à l’IA..