Bias-Variance Tradeoff
Compromiso sesgo-varianza: error del modelo = sesgo² + varianza + error irreducible; aumentar la complejidad reduce el sesgo pero aumenta la varianza.
Propósito
Entender cómo se relaciona la complejidad del modelo con el error de generalización y guiar la selección de modelos.
Mecanismo
El sesgo es la brecha sistemática entre las predicciones y la verdad (infraajuste); la varianza es la fluctuación de las predicciones entre conjuntos de entrenamiento (sobreajuste). Los modelos simples tienen sesgo alto y varianza baja; los complejos, lo contrario. La regularización encuentra el punto de equilibrio.
Casos de uso
- Selección de modelos
- Ajuste de la regularización
- Análisis del sobreajuste