2016-07-22 9 views
0
I am getting the following error while connecting Cloudant DB from my local Spark cluster(PySpark) using spark-cloudant connector. 

    The spark-cloudant connector is: https://spark-packages.org/package/cloudant-labs/spark-cloudant 

    I am started my PySpark with following command, 
    pyspark2.cmd --jars "all jars for spark-cloudant connector" 

The code I am using, 
sqlContextNew = SQLContext(sc) 
booksDataDF = sqlContextNew.read.format("com.cloudant.spark").option("cloudant.host","AAA-HOST").option("cloudant.username", "BBB-USERNAME"). option("cloudant.password","CCC-PASSWORD").load("booksdata") 

Die Fehlermeldung ist: 16/07/22 23.01.51 INFO JsonStoreDataAccess: SparkEnv ActorSystem Wiederverwendung als es enthält spray 16/07/22 23.01.52 eRROR ActorSystemImpl: Uncaught fataler Fehler von Faden [sparkDriverActorSystem-akka.actor.default-Dispatcher-2] Abschalten ActorSystem [sparkDriverActorSystem] java.lang.ExceptionInInitializerErrorFehler beim Verbinden Cloudant DB von meinem lokalen Spark-Cluster (PySpark) unter Verwendung von Funken cloudant Stecker

verursacht durch : java.lang.NoSuchMethodError: scala.Predef $ ArrowAssoc $ .erweiterung $$ minus $ greater (Ljava/lang/Objekt; Ljava/lang/Objekt;) Lscala/Tuple2 bei org.parboiled.scala.Parser $ class.rule (Parser.scala: 73) bei org.parboiled.scala.Parser $ class.rule (Parser.scala: 46) bei spray.http.parser.HttpParser $ .rule (HttpParser.scala: 29) unter spray.http.parser.CORSHeaders $ class. $ timesAccess $ minusControl $ minusMax $ minusAge (CORSHeaders.scala: 59) at spray.http.parser.HttpParser $. $ timesAccess $ minusControl $ minusMax $ minusAge (HttpParser.scala: 29)

Antwort

0

Ich vermute, dass dieser Fehler wegen der falschen Scala-Version ist. Was ist die Scala-Version, die Sie verwenden? Für Funken und Funkenwolken benötigen Sie Scala 2.10.

+0

Hallo @Mayya Sharipova, Spark-Version, die ich verwende, ist Spark-1.6.0-bin-hadoop2.6 (Scala 2.10). Die Version mit dem Zündkerzwolkenstecker ist spark-cloudant-1.6.2-s_2.10.jar. Ich frage mich, was passiert, lassen Sie es mich wissen, wenn Sie einen anderen Punkt zu überprüfen haben. Ich werde das Gleiche versuchen. Danke für dein Update. –

+0

@PariMargu Was ist Scala-Version auf Ihrem Computer installiert? –

+0

Hi @Mayya Sharipova, Scala Version 2.10.5 ist auf meinem Computer installiert. –