Wie ich verstehe, kann Spark Streams mit Spark Streaming analysieren. Und Kafka kann Daten von mehreren Quellen empfangen. Was ich nicht verstehe, ist, wenn ich einen Kafka-Cluster habe, der Daten von mehreren Quellen empfängt, werden die Daten an eine Datenbank gesendet, auf der Spark Streaming läuft? Oder wird Spark Streaming auf einem Anwendungsserver ausgeführt?Wohin fließt Spark Streaming?
-1
A
Antwort
1
Wenn Sie Spark Streaming verwenden, müssen Sie einen Spark-Cluster einrichten, und Sie senden den Spark-Streaming-Job an den Cluster. Also müssen Sie 2 Cluster: Kafka + Spark (oder eigentlich 3, da Sie auch einen Zookeeper-Cluster für Kafka benötigen).
Verwandte Themen
- 1. Spark-Streaming-Streaming aktiv Zählung
- 2. Spark streaming rawSocketStream
- 3. Spark Streaming Model Overwrite
- 4. Zählen mit Spark Streaming
- 5. Spark Streaming - Filter dynamisch
- 6. Spark Streaming benutzerdefinierte Metriken
- 7. Stateful Streaming Spark-Verarbeitung
- 8. Spark Streaming XML-Dateien
- 9. Spark Streaming historischen Zustand
- 10. Spark-Streaming-Fenster-Operation
- 11. Batchgröße in Spark Streaming
- 12. Spark Streaming MYSql
- 13. Spark Streaming Replay
- 14. Spark Streaming Akkumulierte Wortzählung
- 15. Spark-Streaming-Schema
- 16. Spark Streaming verlieren SparkContext
- 17. Spark-Streaming UpdateStateByKey
- 18. Spark Streaming Kafka Stream
- 19. Spark-Streaming Elasticsearch Abhängigkeiten
- 20. Spark Streaming doppelte Netzwerkanrufe
- 21. Herunterfahren von Spark Streaming
- 22. Pause Spark Streaming Job
- 23. Kafka Spark-Streaming-Integration
- 24. NoClassDefFound Ausnahme Spark-Streaming
- 25. Spark Streaming Kafka Gegendruck
- 26. Persisting Spark-Streaming Ausgabe
- 27. Spark-Streaming-Job Leistungsverbesserung
- 28. Spark-Streaming-Serialisierungsfehler
- 29. Spark Streaming HiveContext NullPointerException
- 30. Spark-Streaming JavaCustomReceiver
also, wenn ich einen Funken Cluster habe, läuft der Funke Job auf einem Anwendungsserver? und wird im Mapreduce-Stil an den Funke-Cluster verteilt? – Khan
http://spark.apache.org/docs/latest/cluster-overview.html –