Tensorflow Android: Umgrupped Inception v3 nehmen zu viel Zeit

Question

Ich habe die Inception-V3 letzte Schicht mit meinen eigenen 20 Kategorien umgeschult. Wenn ich umtrainiertes Modell in Android-Demo-App verwende, dauert es 6 bis 8 Sekunden vorherzusagen.

Laufen auf

• LG G4 Stylus -> 6-8 sec
• S6 -> 3-4,5 sec

Ich habe optimize_for_inference getan dauert es 6-9 sec und quantize_graph es dauert 7-11 sek. Gibt es eine Möglichkeit, es zu verbessern?

Ausgabe am LG G4 Stylus:

Output

EDIT

Ich habe this gefolgt

Answer 1

Ihre Debug-Ausgabe in den normalen TF Classify App auf meinem Handy Vergleich Ich sehe, dass Sie haben eine viel größere Knotenzahl, was vermuten lässt, dass Ihr Graph aus irgendeinem Grund viel größer ist, als er sein sollte. Ich bin mit der Quantisierungsmethode nicht vertraut, aber es sieht so aus, als hätten Sie mehr conv2D-Ebenen als normal.

Ohne weitere Informationen ist es schwer zu sagen, aber ich denke, dass Sie das Diagramm neu erstellen und überprüfen sollten, ob Sie die letzte Ebene ordnungsgemäß hinzugefügt haben.