2014-09-03 12 views

Antwort

2

Dieser Beitrag über Funken Mit HBase verbinden sollte hilfreich sein: http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase

Do I just add the hbase address into spark classpath?

Nr Eigentlich sollten Sie die hbase configuraion Dateien in der Funken Classpath setzen. Wenn nicht, sollten Sie sie in Ihren Codes setzen, wie zum Beispiel:

Configuration hConf = HBaseConfiguration.create(conf); 
    hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com"); 
    hConf.setInt("hbase.zookeeper.property.clientPort", 10000); 
+1

können Sie mir sagen, wie hbase Konfigurationsdateien auf Spark Classpath setzen? ist es so - Export SPARK_CLASSPATH =/Pfad/zu/hbase/conf? – RisJi

+0

Ja. Aber es wird nur im Treiber verwendet. Sie können den obigen Beitrag lesen. Es las hbase-site.xml in den Codes. – zsxwing

+0

danke! Aber jetzt bekomme ich einen Fehler: java.lang.NoSuchMethodError: org.apache.hadoop.net.NetUtils.getInputStream (Ljava/net/Socket;) Ljava/io/InputStream; \t bei org.apache.hadoop.hbase.ipc.HBaseClient $ Connection.setupIOstreams (HBaseClient.java:437) – RisJi