Logistic Regression
La regresión logística asigna una combinación lineal a una probabilidad mediante la sigmoide, P(y=1|x)=σ(w·x+b), entrenada con pérdida de entropía cruzada para clasificación binaria.
Propósito
Proporcionar un clasificador binario de referencia que produce probabilidades y sigue siendo interpretable.
Mecanismo
σ(z)=1/(1+e^(-z)). La pérdida L=-∑[y log p+(1-y) log(1-p)] es convexa. Se optimiza con descenso de gradiente o el método de Newton (IRLS). El multiclase usa softmax. La regularización L1/L2 evita el sobreajuste.
Casos de uso
- Clasificación binaria
- Predicción de probabilidades
- Modelos interpretables