Speichert Funken tatsächlich die Dataset
, wenn org.apache.spark.sql.Dataset#persist()
aufgerufen wird? Oder es wird träge zwischengespeichert, wenn eine Terminaloperation (wie count
) an einer Dataset
aufgerufen wird.Ist Datensatz # persist() eine Terminaloperation?
1
A
Antwort
2
Da alle Caching-Operationen in Spark Dataset.persist
ist faul und markiert nur gegebenes Objekt für die Zwischenspeicherung, wenn es jemals ausgewertet wird.
Der Hauptunterschied zu RDDs ist, dass die Auswertung viel schwieriger zu begründen ist. Siehe verwandte Diskussion auf der Entwicklerliste: Will .count() always trigger an evaluation of each row?
Verwandte Themen
- 1. Persist Rubinbindung
- 2. Wie Variable Persist auf Postback
- 3. Nodejs persist eine sqlite In-Memory-Datenbank
- 4. Persist org.springframework.security.core.userdetails.User oder Userdetails
- 5. JPA persist generic entity
- 6. Persist UITableViewCell Unterklasse Eigenschaft
- 7. Redis - persist individuellen Hash
- 8. JPA Cascade Persist Fehler
- 9. Hibernate persist funktioniert nicht
- 10. Frühling State Persist Statecontext
- 11. Persist allmählich Leistung
- 12. Int Wert Persist
- 13. JPA-Persist-Beziehungen
- 14. Apollo mit Redux-Persist
- 15. Hibernate Persist und Fehlerbehandlung Workflow
- 16. Entität persist Register Validierung Listener
- 17. Persist Coda Hale Metrik Informationen
- 18. Persist Ergebnis des dynamischen Werts
- 19. Persist Entity Framework Query Cache
- 20. Persist-Wert nur in Sekundärtabelle
- 21. reagiere redux-persist mit Routen
- 22. OAuth & Access Token Persist Frage
- 23. Persist Sammlung Felder mit Winterschlaf
- 24. Visual Studio - Persist fixierte Windows?
- 25. Wie erzwinge ich eine persist zu Speicher von Spark DataFrames?
- 26. Persist-Umgebungsvariable für eine Rails-App auf Digital Ocean
- 27. Doktrin persistent Entity zwischen entityManager geändert-> persist und unitOfWork-> persist
- 28. ASP.NET Persist POST-Daten durch Login-Redirect
- 29. Persist UITableViewCell Hintergrundfarbe auf Scroll-TabelleViewCells
- 30. Persist neue JPA-Entität und lösen