決定木（中学生向け）

動物当てゲームをやってみよう #

友だちが動物を 1 つ思い浮かべています。あなたは「はい・いいえ」で答えられる質問だけで、その動物を当てなければいけません。「空を飛びますか？」と聞くと「いいえ」。「水の中で暮らしますか？」も「いいえ」。「人より大きいですか？」は「はい」、「首が長いですか？」も「はい」なので、答えはキリンです。

質問を 4 回重ねて候補をしぼり、最後に 1 つの答えを言う。この流れを図にすると、1 つの質問から枝分かれが広がる形になります。これを決定木といいます。コンピュータが分類（どのグループかを当てること）をするときに、とてもよく使われる方法です。

コンピュータは質問を自分で選ぶ #

動物当てゲームでは人が質問を考えました。機械学習の決定木では、コンピュータが質問を自分で選びます。

材料になるのは、「重さ 150 g・色は赤・形は丸」と「リンゴ」のように、答えが分かっている例をたくさん集めた表です。たとえば「果物の重さ・色・形」と「その果物の名前」が 100 個分あるとします。コンピュータは、

「重さが 150 g より重いか？」で分けると、リンゴとミカンがきれいに分かれるな。 「色が赤いか？」で分けると、リンゴとイチゴがきれいに分かれるな。

というように、答えのグループがいちばんきれいに分かれる質問を探して、最初の質問にします。分けたあとのグループそれぞれで、また同じことを繰り返します。どのグループも「ほとんど同じ答え」になったら、そこで質問をやめて答えを決めます。

上の図は、2 種類の数（たとえば重さと甘さ）で果物を分けたときの様子です。「重さは 150 g より大きいか？」という質問は、グラフの上ではタテかヨコの 1 本の線になります。質問を 1 つ重ねるごとに、線で区切られた部屋が 1 つ増えていきます。

決定木のいいところ #

• 理由を説明できる：「重さが 150 g より重くて、色が赤いからリンゴ」と、答えにたどりついた道筋をそのまま言えます。コンピュータの判断を人に説明しやすいのは、とても大事な長所です。
• 数と「はい・いいえ」が混ざっていてもいい：重さのような数も、「種があるか」のような「はい・いいえ」も、同じように質問にできます。

動かして見てみよう #

下の図で「再生」を押すと、説明した手順が 1 つずつ進みます。手順ごとの説明は図の下に出ます。

気をつけたいこと：質問が多すぎると「丸暗記」 #

質問を増やせば、覚えさせた 100 個の例は全部正しく分けられるようになります。でも、それは 100 個の例を丸暗記しただけかもしれません。「長さがちょうど 15.3 cm か？」のような細かすぎる質問は、101 個目の新しい果物が来たときにかえって間違いのもとになります。

テスト勉強で、過去問の答えだけを丸暗記しても本番で点が取れないのと同じです。だから決定木では、「質問は 5 回まで」「1 つのグループに最低 10 個の例が残るように」と途中で止めるルールを決めます。

やってみよう #

最初の課題は、友だちと動物当てゲームをして、「平均何回の質問で当てられるか」を記録することです。5 回より少ない質問で当てるには、「空を飛ぶ？」のように候補を 2 等分できる質問から始めるとよいか、考えてみましょう。二つ目は、「文房具」を分ける決定木を紙に描くことで、最初の質問は「書くための道具？」などがよいでしょう。三つ目は、「質問が細かすぎて、新しいものを間違えてしまう例」を考えることで、ヒントは「長さがちょうど 15.3 cm か？」のような質問です。

つぎに読む #

「きれいに分かれる」を数で測る方法（ジニ不純度）やプログラムは 決定木分類器（標準版） で扱います。決定木をたくさん集めて強くする考え方は アンサンブル学習 にあります。「予測する」側の考え方は 中学生向けの線形回帰 で紹介しています。