Aller au contenu
uencoder

Expectation-Maximization

L'algorithme EM alterne une étape E (calcul des espérances des variables latentes) avec une étape M (maximisation de la log-vraisemblance attendue) pour ajuster des modèles à variables latentes.

Objectif

Obtenir des estimations du maximum de vraisemblance pour des modèles probabilistes à variables latentes, utilisé pour l'apprentissage des GMM et HMM.

Mécanisme

Étape E : Q(θ|θ_t)=E[log p(X,Z|θ)|X,θ_t]. Étape M : θ_{t+1}=argmax Q. Chaque itération ne diminue jamais la vraisemblance, avec convergence vers un optimum local. Utilisé pour le clustering GMM et l'apprentissage des HMM.

Cas d’usage

  • Apprentissage de GMM
  • Apprentissage de HMM
  • Inférence avec données manquantes

Termes associés

Baum-Welch Algorithm
Baum-Welch est la spécialisation d'EM pour l'apprentissage des paramètres de HMM : l'étape E utilise forward-backward pour calculer les occupations attendues des états cachés, et l'étape M met à jour les probabilités de transition et d'émission.
GLOSSAIRE

References