Gibt es eine Möglichkeit zur Berechnung der Rechenzeit von GPU mit CPU?

Question

Ich habe mein einfaches Deep-Learning-Modell gemacht. Ich habe jetzt nur CPU auf meinem Desktop. ABER ich muss die Trainingszeit des Modells in GPU Einstellung schätzen. Ich brauche keine genaue Trainingszeitschätzung. Ungefähre Zeit ist in Ordnung für mich. Gibt es dafür eine Methode oder eine Metrik? Einer meiner Gedanken ist der Vergleich von GFLOPs, aber es ist auch Unsinn, wenn ich berechnete.

ex. cpu: intel e5-2686 v4, gpu: nvidia k80

Answer 1

Sie können einen sehr naiven Ansatz der Schätzung der Geschwindigkeit verwenden, indem Sie den Grad der Parallelität in Ihrem Datensatz annähern (zum Beispiel, wenn es lächerlich parallel ist, könnte dies gleich sein auf die Anzahl der Dimensionen in Ihrer Daten-Set), am besten Fall Implementierung der Parallelität mit Null-Overhead von tatsächlich die Übertragung der Daten vorausgesetzt, wird die Mathematik dann einfach:

Speedup = Anzahl der physischen Arbeits Elemente auf GPU (in der Regel # von CUDA-Kernen in typische Nvidia-Implementierung) dividiert durch # der physischen Arbeitselemente auf CPU (# von physischen Kernen).

Es gibt auch Unterschiede, die für die nicht berücksichtigt werden, haben mit verschiedenen Hardware-Architekturen zu tun (ISR, Design, etc.) Diese Art von Berechnungen stark von Realleistung variiert je nach Ihrer Einschätzung der Modelle Parallelität, Implementierung von Parallelität und Hardware.