PCA

สัญชาตญาณ #

Principal Component Analysis (PCA) ควรเข้าใจผ่านสมมติฐาน กลไกการปรับปรุงโมเดล และรูปแบบความผิดพลาดบนข้อมูลจริง เพื่อให้เลือกโมเดลและปรับพารามิเตอร์ได้อย่างเหมาะสม.

คำอธิบายโดยละเอียด #

สูตรสำคัญ #

ให้ข้อมูลศูนย์กลาง \(X\) ขนาด \(n \times d\) คำนวณเมทริกซ์ \(\Sigma = \frac{1}{n} X^\top X\) แล้วแก้ปัญหา eigen

โดย \(v_i\) คือองค์ประกอบหลักและ \(\lambda_i\) คือความแปรปรวนที่อธิบายได้

ตัวอย่าง Python #

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

import numpy as np
import matplotlib.pyplot as plt
import japanize_matplotlib
from sklearn.decomposition import PCA
from sklearn.datasets import load_wine

data = load_wine()
X = data.data
y = data.target

pca = PCA(n_components=2)
X_pca = pca.fit_transform(X)

plt.figure(figsize=(6, 5))
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y, cmap="tab10")
plt.xlabel("PC1")
plt.ylabel("PC2")
plt.title("Wine dataset บน PCA 2 มิติ")
plt.grid(alpha=0.2)
plt.tight_layout()
plt.show()

print("สัดส่วนความแปรปรวน:", pca.explained_variance_ratio_)

เคล็ดลับ #

• ทำมาตรฐานข้อมูลก่อน (Mean=0, Var=1) เพื่อไม่ให้ฟีเจอร์ขนาดใหญ่ครอบงำ
• ใช้ Scree plot หรือ cumulative variance เพื่อตัดสินใจจำนวนองค์ประกอบ
• หากจำนวนฟีเจอร์มากกว่าจำนวนจุด ให้ใช้ SVD เพื่อประหยัดการคำนวณ

เอกสารอ้างอิง #