Rétropropagation

Dans le domaine de l’intelligence artificielle, la rétropropagation est une méthode utilisée pour entraîner les réseaux neuronaux artificiels. Il s’agit d’un algorithme clé dans l’entraînement des modèles d’apprentissage profond, car il permet au modèle d’ajuster ses poids dans le sens qui minimise l’erreur.

La rétropropagation fonctionne en calculant le gradient de la fonction de perte par rapport à chaque poids à l’aide de la règle de dérivation en chaîne et en calculant le gradient à rebours à travers le réseau. Les poids sont ensuite mis à jour dans la direction opposée au gradient. Ce processus est répété plusieurs fois dans le but de trouver l’ensemble de poids qui minimise la fonction de perte.

La rétropropagation est un moyen efficace de calculer les gradients dans les réseaux neuronaux et l’une des raisons du succès de l’apprentissage profond.

Limites

Bien qu’il s’agisse d’un outil puissant pour l’entraînement des modèles d’apprentissage profond, la rétropropagation nécessite de grandes quantités de données et de ressources informatiques, et peut se retrouver piégée dans des minima locaux.

Entrées associées

apprentissage automatique • apprentissage profond • descente de gradient • intelligence artificielle • poids