Sûreté de l’IA

La sûreté de l’IA est l’étude des moyens de réduire les risques posés par l’intelligence artificielle.

Catégorisation

Au sein de la sûreté de l’IA, une distinction est généralement faite entre la recherche technique et la recherche conceptuelle. La première, appelée sécurité technique de l’IA, consiste à appliquer des techniques dans des domaines tels que l’apprentissage automatique et l’apprentissage profond pour résoudre le problème de l’alignement. La recherche conceptuelle, quant à elle, cherche à s’inspirer des idées de plusieurs disciplines —comme la philosophie, l’ingénierie de la sécurité et l’analyse des systèmes complexes — pour mieux comprendre les risques de l’IA et les différentes stratégies qui pourraient contribuer à les atténuer.

La gouvernance de l’IA est également parfois vue comme un sous-domaine de la sûreté de l’IA, bien qu’elle soit généralement considérée comme un domaine de recherche autonome, ce qui n’est pas le cas de la sécurité de l’IA.

La sûreté de l’IA en tant que carrière

L’enquête de moyenne profondeur menée par 80 000 Hours considère la recherche technique sur la sûreté de l’IA comme un « chemin prioritaire » — parmi les carrières les plus prometteuses que l’organisation a identifiées jusqu’à présent⁠1.