Logistic Regression
ロジスティック回帰は、線形結合をシグモイド関数で確率に写像する P(y=1|x)=σ(w·x+b) モデルである。交差エントロピー損失で訓練し、二値分類に用いられる。
目的
確率を出力する解釈可能な二値分類のベースラインモデルを提供する。
メカニズム
σ(z)=1/(1+e^(-z)) である。損失 L=-∑[y log p+(1-y) log(1-p)] は凸である。勾配降下法やニュートン法（IRLS）で最適化する。多クラス分類にはソフトマックスを用いる。L1/L2 正則化が過学習を防ぐ。
ユースケース
- 二値分類（binary classification）への応用
- 確率を予測する（probability prediction）
- 解釈可能なモデル