Wie Sie Keras oder Tensorflow programmieren können, um Training auf mehreren GPU zu partitionieren, nehmen wir an, Sie sind in einer amaozn ec2-Instanz, die 8 GPUs hat und Sie alle verwenden möchten, um schneller zu trainieren Code ist nur für eine einzelne CPU oder GPU?Training eines Modells mit mehreren GPUs
Antwort
Ja, kann Keras Modelle auf mehreren GPUs laufen. Dies ist vorerst nur mit dem TensorFlow-Backend möglich, da das Theano-Feature noch recht neu ist. Wir suchen in naher Zukunft Unterstützung für Multi-GPU in Theano (es sollte ziemlich einfach sein).
Mit dem TensorFlow-Backend können Sie dies auf die gleiche Weise wie beim reinen TensorFlow erreichen: indem Sie beim Definieren von Keras-Layern den Bereich mit tf.device (d) verwenden. Ursprünglich
von here
Als Ergänzung zu dieser Antwort können Sie die Antworten in den folgenden Link folgen. Die Idee ist, 'tf.device ('/ gpu: 0'):' oder 'mit tf.device ('/ gpu: 1')' usw. für jede Gruppe von Layern zu setzen. https://stackoverflow.com/questions/46366216/tensorflow-is-it-possible-to-manual-decide-which-tens-in-a-graph-go-to-th –
@ DanielMöller: Danke! –
- 1. Computer stürzt beim Training mit Tensorflow auf mehreren GPUs ab
- 2. Das Laden eines vortrainierten Modells schlägt fehl, wenn mehrere GPUs für das Training verwendet wurden.
- 3. Verteiltes Training eines breiten und flachen Modells
- 4. Anpassen eines linearen Modells mit mehreren LHS
- 5. CNTK - unvollständiges Training des Modells
- 6. Pandas - KeyError: '[] nicht im Index' beim Training eines Keras Modells
- 7. Fehler beim Training ein caffe Modells
- 8. Routing eines polymorphen Modells mit mehreren Nestern in Schienen?
- 9. Umgang mit hunderten von Spalten Daten aus Textdatei beim Training eines Modells mit Funken ml
- 10. Ausfallen mit GPUs
- 11. Wie können wir das Training eines Modells mit einem vortrainierten Modell beenden?
- 12. In Chainer, Wie schreibt man BPTT Updater mit mehreren GPUs?
- 13. Ausführen von CNTK auf einem Computer mit mehreren GPUs
- 14. Kann TensorFlow mit mehreren CPUs (keine GPUs) laufen?
- 15. Warum TensorFlow mit mehreren GPUs mir diesen Fehler geben?
- 16. tensorflow Multi-GPU-Training
- 17. Verwenden mehrerer CUDA-GPUs
- 18. Speichern und Laden eines Modells in R
- 19. Wie macht man Multi-GPU-Training mit Keras?
- 20. Wie man Teileparameter eines LSTM Modells wiederherstellt
- 21. Speichern des Tensorflow-Modells nach dem Training ist abgeschlossen
- 22. Konsistenzprüfung eines FOL-Modells
- 23. Visualisierung eines Stateflow-Modells
- 24. Laden eines trainierten Modells zurück in Tensorflow
- 25. Konvertieren eines Pyearth-Modells
- 26. Kreuzvalidierung eines CART-Modells
- 27. Wie unterdrückt man "Build Progress" -Bar beim Training eines H2O-Modells?
- 28. Tensorflow - Wiederherstellen eines Modells
- 29. Eigentum eines direkten Modells
- 30. Schneiden eines 3D-Modells?
Das ist ein bisschen breit für diese Seite. Sie fordern uns auf, Ihre Lösung für Sie zu entwerfen. https://stackoverflow.com/help/how-to-ask – jdv