Coût d’alignement

Le coût d’alignement (parfois appelé coût de sûreté) est le coût supplémentaire d’aligner une IA, par rapport à une IA non alignée.

Approches du coût d’alignement

Paul Christiano distingue deux approches principales pour traiter le coût d’alignement⁠1 : l’une consiste à trouver des moyens de payer le coût, par exemple en persuadant les acteurs individuels de payer ou en facilitant la de manière à permettre aux groupes de le payer. L’autre approche consiste à réduire la taxe en les algorithmes alignables existants ou en rendant les algorithmes existants plus alignables.