Wie kann man das Signal für die Vorwärtsausbreitung im Deep-Learning-Netzwerk verstärken?

Question

Ich habe eine Frage früher gestellt unter Matconvnet output of deep network's marix is uniform valued instead of varying values? Als ich das tiefe Netzwerk für die Dichteabschätzung debuggte, erkannte ich, dass das Signal zum Ausgang ausgeht/verblaßt. Wie kann ich das Signal verstärken, damit es nicht flach wird und die Spitzen- und Basiswerte eine hohe Amplitude behalten?

Answer 1

Die Verwendung von niedrigerem Alpha bei der LRN-Normierung kann die Ausgabe verstärken.