JS Divergence

4.4.3

JS Divergence

Ενημέρωση 2020-02-26 Ανάγνωση 1 λεπτά
Σύνοψη
  • Το Jensen-Shannon Divergence είναι συμμετρική εκδοχή του KLD.
  • Είναι φραγμένο και πιο σταθερό για σύγκριση κατανομών.

Ορισμός #

Με (M = \frac{1}{2}(P + Q)):

$$ \mathrm{JS}(P, Q) = \frac{1}{2} \mathrm{KLD}(P \| M) + \frac{1}{2} \mathrm{KLD}(Q \| M) $$