Regularisierung in TensorFlow Verwendung tf.contrib.layers.fully_connected

Question

fully_connected hat einen benannten Parameter weights_regularizer genannt, die die regularizers von tf.contrib.layers vorgesehen akzeptiert, aber es ist nicht klar, die Trainer der Lage sind, diese Regularisierung Verlust Tensoren zu finden, oder wenn wir manuell haben addiere sie zum Gesamtverlust.

Kann jemand ein Beispiel für Regularisierung mit fully_connected geben?

Answer 1

Die Ausgänge des Regularisierers werden zu einer Sammlung namens REGULARIZATION_LOSSES hinzugefügt (die Schicht ruft model_variable mit dem Regularizer auf).

Sie müssen den Inhalt von REGULARIZATION_LOSSES zu Ihrem Verlust selbst hinzufügen. Verwenden Sie tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES), um alle Tensoren in der REGULARIZATION_LOSSES Sammlung zu erhalten.