In dem Papier:Was ist Trainingsschrittzeit beim maschinellen Lernen?
TensorFlow: Ein System zur Maschine Groß (Martín Abadi, Paul Barham, Jianmin Chen, Zhifeng Chen ...) Lernen
Was den Begriff „Schrittzeit tut "oder" Trainingsschrittzeit "bedeutet? Warum nicht einfach die Zugzeit nutzen?
paper screenshot (nicht genug Ruf direkt schreiben Bild)
In neuronales Netzwerk Szenario Epoche kann als Einzelvorwärtslauf und Rückwärtslauf aller Trainingsbeispiele definiert werden. Wir speisen nicht alle Neuronen gleichzeitig in unser Netzwerk ein. Stattdessen wählen wir eine Charge von Neuronen (Minibatch) und geben sie ein. Wir verarbeiten eine kleine Teilmenge der Trainingsdaten vorwärts und rückwärts. Wir tun dies, um einen stochastischen Gradientenabfall durchzuführen und verhindern, dass unser Netzwerk übersteuert. Es gibt einen Unterschied zwischen der individuellen Trainingsschrittzeit und der Gesamttrainingszeit. Wenn zum Beispiel 30 Trainingsschritte in Ihrem Netzwerk vorhanden sind, dann ist die gesamte Trainingszeit = Zeit, die benötigt wird, um alle 30 Trainingsschritte zu absolvieren.
Bitte überprüfen Referenz [15] für folgende Tabelle:
[15] S. Chintala. convnet-benchmarks, github.com/soumith/convnet-benchmarks.
Für AlexNet, caffe Trainingsschritt Zeit 324 Frau. Gesamtzeit = vorwärts + rückwärts = 121 + 203
