Wie Laden von Checkpoint und Inferenz mit C++ für Tensorflow?

Question

Ich habe Tensorflow mit Python api und bekam diese Kontrollpunkt Modelldatei:

model.ckpt-17763.data-00000-of-00001 
model.ckpt-17763.index 
model.ckpt-17763.meta 

Aber ich möchte eine C/C++ Shared Library (.so-Datei), wenn sie in die Produktion zu integrieren. Also muss ich diese Modelldatei laden und mit C++ - Code ableiten und zu einer gemeinsam genutzten Bibliothek kompilieren. Gibt es ein Tutorial oder ein Beispiel dafür?

Answer 1

Sie können C++ - Code zum Laden und Verwenden Ihres Diagramms mit den Anweisungen here schreiben.

Sie können die Dateien here verwenden, um ein Cmake-Projekt mit Tensorflow außerhalb des TF-Repositorys zu erstellen und Ihre Bibliothek zu kompilieren.

Sie werden jedoch immer noch die .ckpt-Dateien neben Ihrem .so benötigen, ich weiß nicht, wie Sie sie darin einbetten.

Es gibt eine Menge Fragen darüber auf SO, und ein paar Tutorials (siehe die beide in this answer zitiert), aber da tensorflow schnell weiterentwickelt, dass sie schnell veralten, und es ist immer ein bisschen Kampf um es an dem richtig funktionieren (völlig durchführbar und trotzdem leichter).