モデル監視

モデル監視

まとめ
  • PSI(母集団安定性指数)などの監視指標で、本番データの分布変化を検知する方法を学ぶ。
  • データドリフトとコンセプトドリフトの違いを理解し、適切な対応策を判断できるようになる。

直感 #

モデルは学習時のデータ分布を前提に予測を行うため、本番環境でデータの傾向が変われば精度が劣化する。定期的な監視と早期の異常検知が、安定した運用の鍵となる。

詳細な解説 #

このチャプターで学べること #

  • PSIによる特徴量分布の安定性評価と、閾値の設定指針
  • データドリフト(入力分布の変化)とコンセプトドリフト(入出力関係の変化)の区別
  • 監視ダッシュボードの設計と、アラート基準の考え方

これがわかるとできること #

  • 本番モデルの精度劣化を早期に検知し、再学習のタイミングを判断できる
  • 分布変化の原因(季節性・外部イベント・データパイプラインの不具合)を切り分けられる