Spark Master und Workers keine Verbindung über Localhost-Adressen

Question

Nach der Installation des Spark-Pakets unter Linux (SuSE SLES 12) sehe ich die folgenden Konnektivität Fehler ("fehlgeschlagen zu verbinden"), die neben dem Spark-Slave-Prozess auch Auswirkungen auf die "Pyspark "Beispiele, Verbindungen ablehnen. Jeder Hinweis, wie die Port-7077-Konnektivität über localhost-Adressen aktiviert wird, ist willkommen. Teil des Problems könnten die standardmäßigen Linux-Firewall-Einstellungen sein.

Firewall Befehle Lokaler Host-Adressen zu öffnen:

sudo iptables -A INPUT -s 127.0.0.1 -d 127.0.0.1 -j ACCEPT 
sudo iptables -A INPUT -s 127.0.0.1 -d zbra2016 -j ACCEPT 

Spark Master-Start - Befehle:

export SPARK_LOCAL_IP=zbra2016 
./sbin/stop-master.sh 
./sbin/start-master.sh 



16/04/19 10:12:29 INFO Master: Registered signal handlers for [TERM, HUP, INT] 
16/04/19 10:12:29 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
16/04/19 10:12:29 INFO SecurityManager: Changing view acls to: linux1 
16/04/19 10:12:29 INFO SecurityManager: Changing modify acls to: linux1 
16/04/19 10:12:29 INFO SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(linux1); users with modify permissions: Set(linux1) 
16/04/19 10:12:30 INFO Utils: Successfully started service 'sparkMaster' on port 7077. 
16/04/19 10:12:30 INFO Master: Starting Spark master at spark://zbra2016:7077 
16/04/19 10:12:30 INFO Master: Running Spark version 1.6.1 
16/04/19 10:12:30 WARN Utils: Service 'MasterUI' could not bind on port 8080. Attempting port 8081. 
16/04/19 10:12:30 INFO Utils: Successfully started service 'MasterUI' on port 8081. 
16/04/19 10:12:30 INFO MasterWebUI: Started MasterWebUI at http://localhost:8081 
16/04/19 10:12:30 INFO Utils: Successfully started service on port 6066. 
16/04/19 10:12:30 INFO StandaloneRestServer: Started REST server for submitting applications on port 6066 
16/04/19 10:12:31 INFO Master: I have been elected leader! New state: ALIVE 

Spark Worker Start - Befehle:

./sbin/stop-slave.sh 
./sbin/start-slave.sh spark://zbra2016:7077 

Logfile zeigt ein " Fehler beim Verbinden der Fehlermeldung ":

/data/spark/spark/logs/spark-linux1-org.apache.spark.deploy.worker.Worker-1-zbra2016.out 
16/04/19 10:15:46 INFO Worker: Retrying connection to master (attempt # 1) 
16/04/19 10:15:46 INFO Worker: Connecting to master zbra2016:7077... 
16/04/19 10:15:47 WARN Worker: Failed to connect to master zbra2016:7077 
java.io.IOException: Failed to connect to zbra2016/127.0.0.1:7077 

Testen der Konnektivität von Alias: zbra2016 = localhost

linux1@zbra2016:/data/spark/spark> ping zbra2016 
PING localhost (127.0.0.1) 56(84) bytes of data. 
64 bytes from localhost (127.0.0.1): icmp_seq=1 ttl=64 time=0.022 ms 

Answer 1

Wir fanden nur eine Lösung für sie in den Aufbau des Linux iptables-Firewall. Ich benutzte den folgenden Befehl localhost Verkehr zu öffnen:

iptables -I INPUT 1 -p all -s localhost -d localhost -j ACCEPT 

nun der Arbeitsprozess an den Master über die localhost-Ports angeschlossen werden kann.

Answer 2

Sie können möglicherweise die Einstellungen ändern, die Port 7077 durch Ihre Firewall zulassen. Versuchen: sudo ufw erlauben 7077