K_DM Book
用語集
対象者 標準
対象者別の入口 →

対象者の設定はこのブラウザの中にだけ保存されます。

言語 JA

プロットと前処理

04.11

プロットと前処理

まとめ
時系列をモデルに入れる前の準備を、6 つの「チェック」に分けて進める章です。まず pd.read_csv で読んだデータの列型・欠損・重複を点検し、折れ線・ヒストグラム・自己相関と ADF 検定で系列の性質をつかみます。次に np.polyfit でトレンドを推定して XGBoost の入力から切り離し、STL と MSTL で季節性・トレンド・残差に分解し、Box-Cox / Yeo-Johnson 変換で歪んだ分布を整えます。最後に cpi.inflate で金額を実質値に揃え、rolling と ewm による SMA・WMA・EMA の 3 種の移動平均でノイズを抑える方法を比べます。

直感 #

時系列分析で正確な結果を得るには、モデルに投入する前のデータ準備が欠かせません。日付列が文字列のままだと resample も dt.year も使えず、トレンドを放置した木モデルは右上がりの先を予測できず(MSE 2.82 対 0.46)、2013 年と 2021 年のドルをそのまま比べると購買力の差を見落とします。列型の確認、欠損値の処理、トレンドの分離、分布の正規化、通貨データのインフレ調整という地味な手順を 1 つずつ踏んでおくと、後段の ARIMA や XGBoost の学習が安定し、結果の解釈も間違えにくくなります。

詳細な解説 #

このチャプターで学べること #

  • データの読み込みと型変換、欠損・重複チェックの基本手順
  • 多項式フィットによるトレンド推定と残差の活用
  • STLによる季節性・トレンド・残差の分解
  • Box-Cox/Yeo-Johnson変換で歪んだ分布を整える方法
  • CPIを使ったインフレ調整で時価を実質値に変換する手法
  • SMA・WMA・EMAの3種の移動平均の比較

これがわかるとできること #

  • 新しい時系列データを受け取ったとき、品質チェックから前処理までを体系的に進められる
  • トレンドや季節性を分離し、モデルが学習すべき成分を明確にできる
  • 通貨データを正しく実質値に揃えて、過去との比較を歪みなく行える

学習の進め方 #

まず チェック 1 でデータの読み込みと info()・isnull()・adfuller による基本点検を済ませ、土台を作ります。次に チェック 2 のトレンド推定と チェック 3 の STL 分解で、トレンド・季節性・残差の成分を分離します。続いて チェック 4 の Box-Cox 変換と チェック 5 のインフレ調整で値のスケールと分布を揃え、最後に チェック 6 で SMA・WMA・EMA のノイズ除去を比較します。