TensorFlow Wiederverwendungsvariable mit tf.layers.conv2d

Question

Ich versuche, 2 Conv Ebenen die gleichen Gewichte zu teilen, jedoch scheint es, dass die API nicht funktioniert.

import tensorflow as tf 

x = tf.random_normal(shape=[10, 32, 32, 3]) 

with tf.variable_scope('foo') as scope: 
    conv1 = tf.contrib.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=True, scope=scope) 
    print(conv1.name) 

    conv2 = tf.contrib.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=True, scope=scope) 
    print(conv2.name) 

Es die Blätter aus tf.contrib.layers.conv2d zu tf.layers.conv2d

foo/foo/Relu:0 
foo/foo_1/Relu:0 

Ändern out das Problem nicht lösen.

Es hat das gleiche Problem mit tf.layers.conv2d:

import tensorflow as tf 

x = tf.random_normal(shape=[10, 32, 32, 3]) 

conv1 = tf.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=None, name='conv') 
print(conv1.name) 
conv2 = tf.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=True, name='conv') 
print(conv2.name) 

gibt

conv/BiasAdd:0 
conv_2/BiasAdd:0 

Answer 1

Im Code, den Sie geschrieben haben Variablen zwischen den beiden Faltungs Schichten wiederverwendet erhalten. Versuchen Sie folgendes:

import tensorflow as tf 

x = tf.random_normal(shape=[10, 32, 32, 3]) 

conv1 = tf.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=None, name='conv') 

conv2 = tf.layers.conv2d(x, 3, [2, 2], padding='SAME', reuse=True, name='conv') 

print([x.name for x in tf.global_variables()]) 

# prints 
# [u'conv/kernel:0', u'conv/bias:0'] 

Beachten Sie, dass nur ein Gewicht und eine Bias-Tensor erstellt wurde. Obwohl sie sich die Gewichte teilen, teilen sich die Ebenen nicht die eigentliche Berechnung. Daher sehen Sie die zwei verschiedenen Namen für die Operationen.