K_DM Book
用語集
対象者 標準
対象者別の入口 →

対象者の設定はこのブラウザの中にだけ保存されます。

言語 JA

PLS 回帰 (Partial Least Squares)

上級

02.1.9

PLS 回帰 (Partial Least Squares)

最終更新 2020-05-20 読了時間 4 分
まとめ
PLS 回帰(Partial Least Squares)は、説明変数 \(\mathbf{X}\) と目的変数 \(\mathbf{y}\) の共分散が最大になる向きに潜在因子を作り、その因子の上で線形回帰を行う教師あり次元圧縮法です。PCA が \(\mathbf{X}\) の分散だけで軸を決めるのに対し、PLS は \(\mathbf{y}\) を見ながら軸を決めるので、少ない因子数でも予測に効く情報が残ります。このページでは運動データ Linnerud の 3 変数(懸垂・腹筋・跳躍の回数)から体重を予測し、PLSRegression の n_components を 1〜3 で変えて 5 分割交差検証の MSE を比べます。読み終えると、x_loadings_ からどの変数の組み合わせが因子を作っているかを読めるようになります。
動画で見る:PLS回帰を使って多重共線性のあるデータでも回帰モデルを作成しよう!(K_DM チャンネル)

主成分分析(PCA) で「分散が最大の向きに軸を取る」操作を見ておくと、PLS が何を変えたかが分かります。比較対象の 主成分回帰(PCR) は PCA の軸の上で回帰する手法です。

直感 #

主成分回帰(PCR)は \(\mathbf{X}\) の分散だけを基準に軸を決めるため、たとえば懸垂・腹筋・跳躍の 3 変数で「体力全般」の方向が第 1 主成分になり、体重に効く別の方向が第 3 主成分として削られることがあります。PLS 回帰は \(\mathbf{X}\) と \(\mathbf{y}\) の両方を見て、\(\mathbf{y}\) との共分散が最大になる向きを第 1 因子にします。第 1 因子で説明できなかった残りから第 2 因子を作る、という手順を n_components 回繰り返すので、因子数 1 の時点ですでに \(\mathbf{y}\) 向きの情報が入っています。

何が起きているか(ステップで見る) #

コードを読む前に、この手法が図の上で何をしているかを追ってみましょう。「再生」を押すか、スライダーを動かすと 1 手順ずつ進みます。

見るポイント:点を軸に射影した散らばりが最大の向きが第 1 主成分。情報を最も失わない 1 本の軸。PLS は同じ「軸に射影する」操作を、\(\mathbf{X}\) の散らばりではなく \(\mathbf{y}\) との共分散が最大になる向きで行います。

式で書くとどの向きに射影しているか #

記号を出す前に一言でいうと、重みベクトル \(\mathbf{w}\) が「射影する軸の向き」、スコア \(\mathbf{t}\) が「各サンプルを軸に射影した座標」です。説明変数行列 \(\mathbf{X}\) と目的変数ベクトル \(\mathbf{y}\) に対し、潜在スコア \(\mathbf{t} = \mathbf{X} \mathbf{w}\) と \(\mathbf{u} = \mathbf{y} c\) を交互に更新しながら、共分散 \(\mathbf{t}^\top \mathbf{u}\) が最大となる \(\mathbf{w}, c\) を求めます。この操作を n_components 回繰り返し、得られた潜在因子上で線形回帰を行います。潜在因子数を \(k\) とすると、最終的な回帰モデルは

$$ \hat{y} = \mathbf{t} \boldsymbol{b} + b_0 $$

の形になります。潜在因子数 \(k\) は説明変数の数が上限で、下のコードでは 1〜3 を 5 分割交差検証の MSE で比べて選びます。

Pythonを用いた実験や説明 #

次のコードは、20 人分の運動データ Linnerud(懸垂・腹筋・跳躍の回数)から体重を予測する PLSRegression を、n_components を 1、2、3 と変えながら 5 分割交差検証で評価します。CV の MSE が最小になる因子数を赤い破線で示し、その因子数で学習し直したモデルのローディングを表示します。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
from __future__ import annotations

import matplotlib.pyplot as plt
import numpy as np
from sklearn.cross_decomposition import PLSRegression
from sklearn.datasets import load_linnerud
from sklearn.model_selection import KFold, cross_val_score
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler

def evaluate_pls_latent_factors(
    cv_splits: int = 5,
    xlabel: str = "Number of latent factors",
    ylabel: str = "CV MSE (lower is better)",
    label_best: str = "best={k}",
    title: str | None = None,
) -> dict[str, object]:
    """Cross-validate PLS regression for different latent factor counts.

    Args:
        cv_splits: Number of folds for cross-validation.
        xlabel: Label for the number-of-factors axis.
        ylabel: Label for the cross-validation error axis.
        label_best: Format string for the best-factor annotation.
        title: Optional plot title.

    Returns:
        Dictionary with the selected factor count, CV score, and loadings.
    """
    data = load_linnerud()
    X = data["data"]
    y = data["target"][:, 0]

    max_components = min(X.shape[1], 6)
    components = np.arange(1, max_components + 1)
    cv = KFold(n_splits=cv_splits, shuffle=True, random_state=0)

    scores = []
    pipelines = []
    for k in components:
        model = Pipeline([
            ("scale", StandardScaler()),
            ("pls", PLSRegression(n_components=int(k))),
        ])
        cv_score = cross_val_score(
            model,
            X,
            y,
            cv=cv,
            scoring="neg_mean_squared_error",
        ).mean()
        scores.append(cv_score)
        pipelines.append(model)

    scores_arr = np.array(scores)
    best_idx = int(np.argmax(scores_arr))
    best_k = int(components[best_idx])
    best_mse = float(-scores_arr[best_idx])

    best_model = pipelines[best_idx].fit(X, y)
    x_loadings = best_model["pls"].x_loadings_
    y_loadings = best_model["pls"].y_loadings_

    fig, ax = plt.subplots(figsize=(8, 4))
    ax.plot(components, -scores_arr, marker="o")
    ax.axvline(best_k, color="red", linestyle="--", label=label_best.format(k=best_k))
    ax.set_xlabel(xlabel)
    ax.set_ylabel(ylabel)
    if title:
        ax.set_title(title)
    ax.legend()
    fig.tight_layout()
    plt.show()

    return {
        "best_k": best_k,
        "best_mse": best_mse,
        "x_loadings": x_loadings,
        "y_loadings": y_loadings,
    }

metrics = evaluate_pls_latent_factors(
    xlabel="潜在因子の数",
    ylabel="CV MSE (小さいほど良い)",
    label_best="最適k={k}",
    title="PLS における潜在因子数の選択",
)
print(f"最適な潜在因子数: {metrics['best_k']}")
print(f"最適CV MSE: {metrics['best_mse']:.3f}")
print("Xのローディング:
", metrics['x_loadings'])
print("Yのローディング:
", metrics['y_loadings'])

運動データセットで潜在因子数ごとの性能を比較しますの図

実行結果の読み方 #

折れ線は因子数 1、2、3 の 3 点だけで、赤い破線の位置が best_k です。説明変数が 3 本しかないので、因子数 3 は標準化した説明変数で通常の最小二乗法を行うのと同じ結果になります。best_k が 1 や 2 で止まれば、「3 本の変数を 1〜2 本の合成変数に圧縮しても体重の予測は悪くならない」と読めます。x_loadings_ の第 1 列を見て、3 つの運動がどの符号・大きさで混ざっているかを確認してください。

使いどころと落とし穴 #

説明変数が数十〜数百本あって互いに相関し、サンプル数がそれより少ない分光データや官能評価データが PLS の典型的な使い場です。落とし穴の 1 つ目はスケールで、StandardScaler を省くと分散の大きい列が因子を独占します。2 つ目は因子数で、n_components を説明変数の数まで増やすと 線形回帰 と同じになり圧縮の意味が消えます。\(\mathbf{y}\) を使わずに軸を決める 主成分回帰 と、同じデータで best_k を比べると違いが具体的に分かります。

参考文献 #

  • Wold, H. (1975). Soft Modelling by Latent Variables: The Non-Linear Iterative Partial Least Squares (NIPALS) Approach. In Perspectives in Probability and Statistics. Academic Press.
  • Geladi, P., & Kowalski, B. R. (1986). Partial Least-Squares Regression: A Tutorial. Analytica Chimica Acta, 185, 1–17.

係数パスと正則化 #

スライダーで正則化係数 α を変えると、リッジ回帰の係数が縮んでいく様子を確認できます。PLS が因子数で多重共線性に対処するのに対し、こちらは罰則で係数を抑える別のアプローチです。