「回帰」という名前なのに分類に使うのはなぜですか？

途中までは線形回帰と同じく一次式で「点数」を計算するからです。その点数を 0〜1 の確率に変えて、0.5 より大きいか小さいかで 2 つのグループに分けるので、最終的な使い道は分類になります。

ロジスティック回帰の境界はどんな形ですか？

確率がちょうど 0.5 になる場所で、特徴量が 2 つなら直線、3 つなら平面です。曲がった境界は作れないので、三日月形に入り組んだデータには向きません。

出てきた確率はそのまま信じてよいですか？

点が境界線から遠いほど確率は 0 や 1 に近づき、近いほど 0.5 に近づきます。学習データが少ない場所の確率は当てになりにくいので、どのあたりのデータで学習したかも一緒に確認しましょう。

ロジスティック回帰（高校生向け）

入門高校生

02.2.1 高校生向け

ロジスティック回帰（高校生向け）

最終更新 2026-11-01 読了時間 3 分

まとめ

ロジスティック回帰は、特徴量の一次式 \(z = a x_1 + b x_2 + c\) で「点数」を計算し、それを S 字カーブで 0〜1 の確率に変えて分類する方法です。確率が 0.5 になる場所、つまり \(z = 0\) が境界線で、特徴量が 2 つなら境界は 1 本の直線になります。学習とは、合格した人には高い確率、不合格だった人には低い確率がつくように係数 \(a, b, c\) を調整することで、図では境界線が回転・平行移動します。境界が直線なので、三日月形のように曲がった分かれ方のデータは苦手です。

こんな場面を想像してみよう #

クラスの友だち 30 人について、1 日の 勉強時間 と 睡眠時間、そして先週の小テストに 合格したか（1）しなかったか（0） を表にしました。横軸に勉強時間、縦軸に睡眠時間をとって 30 個の点を打つと、合格した人は右上、しなかった人は左下に多く集まるでしょう。

ここで「勉強 3 時間、睡眠 7 時間の人は合格しそう？」と聞かれたら、「はい／いいえ」だけでなく「合格する確率は 60 % くらい」と答えたくなりませんか。この「確率で答える分類」がロジスティック回帰です。

ロジスティック回帰による決定境界。2 種類の点を 1 本の黒い直線が分け、直線から離れるほど背景の色が濃くなる（確率が 0 や 1 に近づく）

上の図では、黒い直線が「確率ちょうど 0.5」の線です。線の上側ほどクラス 1 の確率が高く（オレンジ）、下側ほど低く（青）なります。色の濃さが確率、黒い線が境界です。

仕組み：点数をつけて、確率に変えて、0.5 で切る #

まず一次式で点数をつけます。勉強時間を \(x_1\)、睡眠時間を \(x_2\) として、\(z = a x_1 + b x_2 + c\) を計算します。線形回帰と同じ形です。次に点数を確率に変えます。\(z\) は −10 にも +10 にもなりえますが、確率は 0〜1 でなければいけません。そこで S 字カーブ \(p = \dfrac{1}{1 + e^{-z}}\) に通します（\(e\) は 2.718… という定数）。覚えておくのは「\(z = 0\) なら \(p = 0.5\)、\(z\) が大きいほど 1 に近づき、小さいほど 0 に近づく」ということだけです。

そのうえで 0.5 を境に分類します。\(p \ge 0.5\) なら合格と予測。\(p = 0.5\) は \(z = 0\)、つまり \(a x_1 + b x_2 + c = 0\) のときなので、境界は図の上で直線になります。最後に係数を学習します。合格した人の \(p\) はなるべく 1 に、不合格の人の \(p\) はなるべく 0 に近づくように、\(a, b, c\) を少しずつ動かします。\(a, b\) を変えると図の直線が回転し、\(c\) を変えると平行移動します。外れている点を減らす向きに直線を動かし、\(a, b, c\) が動かなくなったら完成です。

勉強時間・睡眠時間一次式 z = a x1 + b x2 + c S 字カーブで確率 p に変換 p は 0.5 以上? 合格と予測 / 未満なら不合格と予測

動かして見てみよう #

下の図で「再生」を押すと、説明した手順が 1 つずつ進みます。手順ごとの説明は図の下に出ます。

電卓感覚で計算してみる #

係数を \(a = 1.2,\ b = 0.8,\ c = -9\) と仮に決めて、何人かの確率を計算してみます。

1
2
3
4
5
6
7
import math
def sigmoid(z):
    return 1 / (1 + math.exp(-z))
a, b, c = 1.2, 0.8, -9.0      # weights for study hours, sleep hours, bias
for study, sleep in [(2, 6), (3, 7), (5, 7), (6, 8)]:
    z = a * study + b * sleep + c
    print(f"study={study} sleep={sleep} z={z:5.1f} p={sigmoid(z):.2f}")

コードの解説番号をクリックすると、コード内の該当行がハイライトされます。

2-3 行目S 字カーブを 1 行で定義する
sigmoid は本文の \(p = 1 / (1 + e^{-z})\) そのもので、math.exp(-z) が \(e^{-z}\) です。z = 0 を入れると 1 / (1 + 1) = 0.5、z = 5 なら 0.993 と、どんな大きさの点数も 0〜1 の間に押し込められます。この関数がなければ z は −10 や +12 のままで、確率として読めません。
4 行目係数は本来は学習で決まる値
ここでは \(a = 1.2\)（勉強 1 時間ぶんの重み）、\(b = 0.8\)（睡眠 1 時間ぶんの重み）、\(c = -9\)（基準点）を手で決めています。本物のロジスティック回帰は、30 人の合否データに合うようにこの 3 つの数を自動で調整します。c を −9 から −6 に変えると境界線が左下に平行移動し、合格と予測される人が増えます。
5-6 行目4 人ぶんの点数 z を一次式で出す
勉強 2・睡眠 6 なら \(z = 1.2 \times 2 + 0.8 \times 6 - 9 = -1.8\)、勉強 5・睡眠 7 なら \(z = 2.6\) です。z の符号がそのまま「境界線のどちら側にいるか」で、\(z = 0\) がちょうど線上です。ここまでは線形回帰の計算と同じで、分類らしさはまだありません。
7 行目点数を確率にして並べて表示する
sigmoid(z) を .2f で小数 2 桁に丸めて表示します。\(z = -1.8\) は 0.14、\(z = 2.6\) は 0.93 と、境界線から離れるほど 0 や 1 に近づくのが見えます。確率を 0.5 と比べて合否を決めるのは最後の 1 手間で、しきい値を 0.3 に変えても z と p の計算はそのままです。

勉強 2 時間・睡眠 6 時間なら \(z = -1.8\) で確率 0.14、勉強 5 時間・睡眠 7 時間なら \(z = 2.6\) で確率 0.93。境界線 \(1.2 x_1 + 0.8 x_2 - 9 = 0\) からの「遠さ」が、そのまま確信の強さになっていることが分かります。

気をつけたいこと #

最初の課題は「境界が直線だけ」だということです。三日月形や輪になったデータは直線 1 本では分けられません。そういうときは k近傍法や決定木を使うか、\(x_1^2\) のような項を特徴量に足します。二つ目は、0.5 という境目は目的で変えてよいこと。「見落としを減らしたい」なら 0.3 で合格と予測する、というように、しきい値は後から動かせます。三つ目は「係数の大きさは単位しだい」だということです。勉強時間を「分」で入れると \(a\) は 60 分の 1 になるので、係数を比べる前に特徴量の単位（スケール）をそろえましょう。四つ目は合わせすぎへの注意で、係数を極端に大きくすると、学習データにぴったり合っても新しい人では外れやすくなります（情報IIの過学習）。係数を大きくしすぎない仕組み（正則化）が scikit-learn の標準設定では入っています。

やってみよう #

まず、上のコードの \(a, b, c\) を変えて、境界線 \(a x_1 + b x_2 + c = 0\) を方眼紙に引いてみよう。\(c\) を変えると線はどう動くか、\(a\) と \(b\) の比を変えるとどうなるかを見比べよう。次に、「はい／いいえ」ではなく「確率で答えてほしい」場面を身の回りから 2 つ探してみよう（例：降水確率、試合に勝つ見込み）。最後に、直線 1 本ではどうしても分けられない点の配置を 1 つ描いてみよう（ヒント：赤を中心に、青をそのまわりの輪に）。

つぎに読む #

係数を求める計算（最尤推定・勾配法）や正則化の数式、scikit-learn での実装は標準版のロジスティック回帰で扱っています。点数をつける前半部分は高校生向けの線形回帰と同じ考え方です。曲がった境界を作れる方法として高校生向けの k近傍法も読むと、直線との違いが 1 枚の図で分かります。