Logistic Regression
逻辑回归用 sigmoid 将线性组合映射为概率 P(y=1|x)=σ(w·x+b)，用交叉熵损失训练二分类。
用途
二分类基线模型，输出概率且可解释。
机制
σ(z)=1/(1+e^(-z))。损失 L=-∑[y log p+(1-y) log(1-p)]，凸函数。梯度下降或牛顿法（IRLS）优化。多分类用 softmax。L1/L2 正则化防止过拟合。
用例
- 二分类
- 概率预测
- 可解释模型
逻辑回归用 sigmoid 将线性组合映射为概率 P(y=1|x)=σ(w·x+b)，用交叉熵损失训练二分类。
二分类基线模型，输出概率且可解释。
σ(z)=1/(1+e^(-z))。损失 L=-∑[y log p+(1-y) log(1-p)]，凸函数。梯度下降或牛顿法（IRLS）优化。多分类用 softmax。L1/L2 正则化防止过拟合。