Tensorflow dienen, erhalten unterschiedliche Ergebnisse

Question

Ich benutze Tensorflow Serving, um ein vortrainiertes Modell zu dienen. Die seltsame Sache ist, wenn ich dieselben Daten für dieses Modell einfüge, habe ich jedes Mal unterschiedliche Ergebnisse.

Ich dachte, es könnte mein Problem bei Variable initialize sein, ich frage mich, ob es irgendwelche Hinweise gibt, debuggen ich mein Modell, oder wie kann ich die Ursache finden, danke.

Answer 1

Zwei häufige Probleme:

1. Es ist ein bekanntes Problem mit main_op, in denen Variablen zufällig neu initialisiert werden.
2. Sie haben Dropout-Layer in Ihrem Vorhersagediagramm hinterlassen.

(1) zu adressieren, diese statt:

def main_op(): 
    init_local = variables.local_variables_initializer() 
    init_tables = lookup_ops.tables_initializer() 
    return control_flow_ops.group(init_local, init_tables) 

To (2) ansprechen, sicher sein, dass Sie nicht direkt Ihre Ausbildung Graph exportieren werden. Sie müssen ein neues Diagramm für die Vorhersage/Bereitstellung erstellen. Wenn Sie das tf.estimator Framework verwenden, fügen Sie Dropout-Layer nur bedingt hinzu, wenn modetf.estimator.ModeKeys.TRAIN ist.