findspark.init() IndexError: Listenindex außerhalb des Bereichs Fehler

Question

Wenn ich folgendes in einer Python 3.5 Jupyter-Umgebung ausführe, erhalte ich den Fehler unten. Irgendwelche Ideen, was das verursacht?

import findspark 
findspark.init() 

Fehler:

IndexError        Traceback (most recent call 
last) <ipython-input-20-2ad2c7679ebc> in <module>() 
     1 import findspark 
----> 2 findspark.init() 
     3 
     4 import pyspark 

/.../anaconda/envs/pyspark/lib/python3.5/site-packages/findspark.py in init(spark_home, python_path, edit_rc, edit_profile) 
    132  # add pyspark to sys.path 
    133  spark_python = os.path.join(spark_home, 'python') 
--> 134  py4j = glob(os.path.join(spark_python, 'lib', 'py4j-*.zip'))[0] 
    135  sys.path[:0] = [spark_python, py4j] 
    136 

IndexError: list index out of range 

Answer 1

Dies ist höchstwahrscheinlich aufgrund der variablen SPARK_HOME Umgebung nicht korrekt auf Ihrem System eingestellt wird. Alternativ können Sie es einfach an, wenn Sie findspark sind initialisiert, etwa so:

import findspark 
findspark.init('/path/to/spark/home') 

Danach sollte es alle Arbeiten!

Answer 2

Ich war immer die gleichen Fehler und konnte es durch machen arbeiten, um die genaue Installationsverzeichnis eingeben:

import findspark 
# Use this 
findspark.init("C:\Users\PolestarEmployee\spark-1.6.3-bin-hadoop2.6") 
# Test 
from pyspark import SparkContext, SparkConf 

Basically, it is the directory where spark was extracted. In future where ever you see spark_home enter the same installation directory. I also tried using toree to create a kernal instead, but it is failing somehow. A kernal would be a cleaner solution.

Answer 3

Sie benötigen die SPARK_HOME Variable innerhalb bash_profile zu aktualisieren. Für mich war der folgende Befehl (in Terminal):

export SPARK_HOME="/usr/local/Cellar/apache-spark/2.2.0/libexec/"

Danach können Sie diese Befehle folgen verwenden:

import findspark 
findspark.init('/usr/local/Cellar/apache-spark/2.2.0/libexec')