2017-03-09 5 views
2

Ich führe das Beispiel des MNIST Neural Network durch und wenn ich den Klassifikator trainiere, werden in der Spalte Validation Loss (und Trainingsverlust) einige Werte grün hervorgehoben. Wenn ich die Lernrate bei 0,01 habe, sind alle grün, wenn ich sie jedoch auf 0,1 erhöhe, wird nur die Hälfte von ihnen hervorgehoben.Lasagne - Warum ist der Validierungsverlust grün markiert?

Was bedeutet diese Hervorhebung, wenn überhaupt?

Ausgabebeispiel:

Validation Loss Highlighting

Antwort

1

Ohne die Interna zu wissen, sehe ich eine dort Muster.

  • Farbe jeder Zeile, solange es eine Verbesserung (Minimierung -> es ist niedriger) ist
    • Zug-Verlust blau
    • val-Verlust grün
  • Stop-Färbung bei Verlust/Validierung hat sich erhöht
    • Beginnen Sie nicht wieder Färbung nach dieser einmaligen Erhöhung

Verschiedene Lernraten in verschiedenen Zug-Verlust/val-Verlust Wege und damit einige mögliche unterschiedliche Färbung bewirkt.

Ihr Beispiel passt gut dort, da eine niedrigere Lernrate in der Regel stabiler ist (von Iteration zu Iteration) in Bezug auf die Verringerung der Verlust (mehr blau, mehr grün).

Verwandte Themen