Grund für das unterschiedliche Verhalten von Kreuz-Entropie und MSE im Deep Learning?

Question

Ich arbeite an Deep Learning-Projekt für die Segmentierung. Ich verwende Softmax-Layer zur Klassifizierung. Ich sehe unten Konvergenz von MSE und divergent von Kreuz-Entropie-Fehler für Test-Set. Irgendeine Idee was passiert außer Überanpassen? Cross-entrpy

Answer 1

MSE ist eine viel einfachere Metrik, auf die konvergiert werden kann (konvexe Funktion). Für die Klasse des Problems scheint die Kreuzentropie jedoch eine bessere Wahl der Verlustfunktion zu sein.