Negativer Wert der Informationsverstärkung

Question

Ich implementiere C4.5 und in meinen Berechnungen bekomme ich (für einige Beispiele) negative Werte für Informationsgewinn. Ich lese Why am I getting a negative information gain, aber meine Wünsche sind unterschiedlich. Ich putte meine Berechnung zu übertreffen und ich bekomme die gleichen Ergebnisse wie folgt:

My calculations

Was mache ich falsch?

versuchte ich es noch einmal berechnen, und ich bekomme auch negativen Wert wie auf dem Bild unter: Newest calculations with data set 80 Split-Wert ist, so dass ich 11 < = 80 und 3objects> 80

Answer 1

multiplizieren Sie Ihr Ergebnis für Entropie von -1?

$$ H (X) = - \ sum_ {i = 1}^n {\ mathrm {P} (x_i) \ log_b \ mathrm {P} (x_i)} $$

Ugh .. Probleme mit mathjax, go here for definition