tf.contrib.learn.estimator jeder Aufruf zur Vorhersage() lädt das Modell

Question

Ich benutze Tensorflow tf.estimator API für den Aufbau eines breiten linearen Modells und einer tiefen Vorwärts-neuronalen Netzwerk, die gemeinsam trainiert werden. Das trainierte Modell wurde auf der Festplatte gespeichert, und die Vorhersagen werden durch Wiederherstellen des gespeicherten Modells erstellt. Die Echtzeit-Vorhersagen werden mithilfe der Vorhersagefunktion der tf.estimator-API erstellt, die das Modell bei jedem Aufruf erneut lädt, was sehr langsam ist. Gibt es einen Mechanismus, der verhindert, dass das Modell zum Beispiel neu geladen wird: das Modell für aufeinanderfolgende Aufrufe im Speicher zu behalten?

Answer 1

Nicht sicher, wenn Sie bereits die Antwort haben, aber dies scheint für mich

https://github.com/marcsto/rl/blob/master/src/fast_predict.py