01.3.4
MinMaxScaler で区間正規化する
MinMaxScaler(feature_range=(-1, 1)) で \([-1, 1]\) に揃え、別々の場所にあった 2 つの山が同じ範囲に重なる様子を確認します。読み終えると、fit で覚えた data_min_・data_max_ を本番でも使い回す理由と、外れ値が 1 つあるだけで他の点が端に押し込まれる弱点を説明できるようになります。直感 #
身長(cm、150〜190)と年収(万円、200〜2,000)を並べて「似た人」を距離で探すと、年収の差が数百、身長の差が数十なので距離はほぼ年収だけで決まります。MinMaxScaler は列ごとに「最小を 0、最大を 1」に読み替えるものさしを作り、どの列も同じ 0〜1 の幅に収めます。身長 170 cm は \((170 - 150)/(190 - 150) = 0.5\)、年収 1,100 万円も \((1100 - 200)/(2000 - 200) = 0.5\) と、「範囲のまん中」という同じ意味の数になります。画像のピクセル値を 0〜255 から 0〜1 に直す処理も同じ式です。
式で書くと何をしているか #
特徴量 \(x\) に対して、最小値 \(x_{\min}\)、最大値 \(x_{\max}\) を用いた変換は
$$ x' = \frac{x - x_{\min}}{x_{\max} - x_{\min}} (b - a) + a $$です。分数の部分が「最小から最大までの道のりのうち、どこまで進んだか」を 0〜1 で表し、\((b - a)\) を掛けて \(a\) を足すことで目的の区間に移します。既定値は \(a = 0, b = 1\) ですが、feature_range=(-1, 1) で \([-1, 1]\)、(0, 255) で画像の画素値の範囲への写像もできます。\(x_{\min}\) と \(x_{\max}\) は列ごとに別々に求めます。したがって列どうしの比率(身長と年収の比など)は保たれません。
何が起きているか(ステップで見る) #
コードを読む前に、この手法が図の上で何をしているかを追ってみましょう。「再生」を押すか、スライダーを動かすと 1 手順ずつ進みます。
見るポイント:単位が違うと距離は大きい軸に支配される。揃えてから距離ベースの手法(k-means・k-NN)を使う。Min-Max は範囲を 0〜1 に揃えるが、外れ値があると他の点が端に寄る。
Python で変換前後を比べる #
次のコードは平均 20・標準偏差 5 の列と、平均 100・標準偏差 30 の列を 500 行作り、MinMaxScaler(feature_range=(-1, 1)) で両方を \([-1, 1]\) に揃えてヒストグラムを左右に並べます。
| |

実行結果の読み方 #
左の図では特徴量 1 が 20 付近の細い山、特徴量 2 が 100 付近の幅広い山として横軸の離れた場所に立っています。右の図では両方の山が \([-1, 1]\) に収まり、最小値の点がちょうど −1、最大値の点がちょうど 1 に来ています。山の形(釣鐘型)は左右で同じです。変わったのは横軸の目盛りが 20 や 100 から −1〜1 になったことだけで、この状態なら k-NN や k-means の距離計算で特徴量 2 ばかりが効く偏りは起きません。
使いどころと落とし穴 #
学習データから得られる scaler.data_min_ と scaler.data_max_ を保存し、本番でも同じ scaler を用いて transform します。本番で学習時の範囲外の値が出ると出力が 1 を超えたり負になったりするので、MinMaxScaler(clip=True) を指定して出力を \([a, b]\) 内に収めるのが安全です。外れ値が 1 つあると、その値が data_max_ になって残りの 499 点が 0 付近に押し込まれるため、外れ値の多い特徴量では RobustScaler を検討してください。元のスケールに戻すときは scaler.inverse_transform(scaled) を呼ぶだけです。