Derzeit haben wir ein Projekt mit 3 Spark-Knoten. Wir wollen die Funkenarbeiter abbauen. Es ist jedoch sehr teuer in Bezug auf die CPU/Speicherauslastung, dass jeder Spark-Knoten auf einem Cassandra-Knoten läuft. Meine Frage ist, ist es möglich, Spark-Mitarbeiter mit DataStax ohne Cassandra bereitzustellen?Ist es möglich, Spark Worker ohne Cassandra mit DataStax bereitzustellen
1
A
Antwort
1
Sie würden in der Regel einen Spark-Worker auf jedem Cassandra-Knoten bereitstellen, um die Datenlokalität zu bevorzugen (der Funke-Worker wird seinen lokalen Knoten in der Priorität erreichen, wenn möglich). Wenn Sie jedoch wirklich den Funken Service vom cassandra Service entkoppeln wollen, müssen Sie ein paar Optionen:
- DSE Fragen direkt an den Support, wenn Sie ein Abonnement natürlich haben.
- Stellen Sie einen neuen spark-worker auf einem neuen Knoten bereit und konfigurieren Sie ihn für die Verbindung mit Ihrem vorhandenen Spark-Master. Im Wesentlichen starten Sie spark-slave.sh. Wenn richtig gemacht, sollte dies funktionieren. Es wird einige Integrationsprobleme mit DSE geben, natürlich müssen Sie versuchen, es zu sehen. Sie müssen Ihre Firewall-Regeln, DNS-Auflösung usw. verwalten ... und natürlich müssen Sie die Anzahl der CPU und RAM manuell konfigurieren, um diesen neuen Knoten zuzuweisen.
- Apache-Funke vollständig von DSE entkoppeln => nur Cassandra-DSE verwenden und Apache Spark auf jedem Ihrer 3 Cassandra-Knoten + einen zusätzlichen Knoten installieren. Das würde mit Sicherheit funktionieren, aber es gibt einige Arbeiten, einschließlich der Konfiguration des Spark-Masters und der Behandlung von HA, wenn dies erforderlich ist, indem die RAM-Zuweisung zwischen DSE und Apache Spark korrekt aufgeteilt wird. Es gibt Hüften von Cassandra Beratungsunternehmen, die Ihnen bei Bedarf helfen können, Instaclustr ist nur einer von ihnen.
Viel Glück!
Verwandte Themen
- 1. Probleme mit Datastax Spark-Cassandra-Stecker
- 2. So starten Sie Spark ohne Cassandra in Datastax Enterprise
- 3. Wie erstellt DataStax Spark Cassandra Connector SparkContext?
- 4. Ist es möglich, alle Zeilen der Cassandra-Partition in einem Spark-Worker zu lesen?
- 5. Datastax-Spark-Jobs ohne Grund getötet
- 6. Spark-Cassandra-Stecker Daten lesen
- 7. Speichern null Werte in Cassandra mit DataStax Spark Connector
- 8. Wie DataStax DevCenter ohne Cassandra Datenbank
- 9. Ist es möglich, eine native Delphi-Anwendung mit ClickOnce bereitzustellen
- 10. Apache Cassandra oder DataStax Cassandra?
- 11. Lesen und Schreiben an Cassandra von Spark worker wirft Fehler
- 12. DataStax Cassandra cassandra.cluster.NoHostAvailable
- 13. Ist es möglich, das Microsoft ReportViewer-Websteuerelement mit xcopy bereitzustellen?
- 14. Datastax Spark Cassadra-Anschluss - Schreiben von DF nach Cassandra-Tabelle
- 15. leider nicht möglich, Cassandra 3.0 mit Funken cassandra Anschluss 1.5.0
- 16. Ist es möglich, einen Cassandra-Knoten ohne Snapshot wiederherzustellen?
- 17. DataStax C++ Cassandra Verschachtelte UDTs
- 18. Ist es möglich, eine Anwendung mithilfe der Cassandra-Datenbank unter Windows Azure bereitzustellen?
- 19. Wie funken Sie mit Cassandra mit Spark-Cassandra-Connector?
- 20. Ist es möglich, Standardparameter für Schnittstellenfunktionen in Typoskripten bereitzustellen?
- 21. Wie liest man bestimmte Spalten aus der Cassandra-Tabelle mit dem Datastax Spark-Cassandra-Connector?
- 22. Spark mit Cassandra Python-Setup
- 23. Ist es möglich, Daten von SparkStreaming in Cassandra von Spark Workers zu speichern
- 24. Ist es möglich, Geo-Tags für die gesamte Stadt bereitzustellen?
- 25. Ist es möglich, die Azure-Funktionen in lokalem IIS bereitzustellen?
- 26. Ist es möglich, dynamische Bilder für E-Mails bereitzustellen?
- 27. Ist es möglich, einen Bot über Service zu registrieren/bereitzustellen
- 28. ist es möglich, Symfony-Website auf Android-Plattform bereitzustellen?
- 29. Federdaten Cassandra mit Datastax-Treiber 3
Danke, sehr informativ. – qubit