Spark 1.6 Abhängigkeiten Kreuz kompiliert mit scala 2.11.0

Question

Ich bin auf der Suche nach maven Abhängigkeit Details für Spark 1.6.

Hier sind die Abhängigkeiten von Maven.

Ich habe unter Projekt-> Eigenschaften-> Scala-Compiler in Eclipse Luna IDE ausgewählt.

Ich sehe jedoch Fehler wie die folgenden Funken core_2.11-1.6.0.jar von hworkspace Build-Pfad ist Quer kompiliert mit einer inkompatiblen Version von Scala (2.11.0). Falls dieser Bericht falsch ist, kann diese Prüfung auf der Compiler-Einstellungsseite deaktiviert werden.

Ich habe alle Schritte, die hier gegeben, gefolgt ->spark build path is cross-compiled with an incompatible version of Scala (2.10.0)

Bitte lassen Sie mich wissen, was ich hier falsch mache. Danke!

Answer 1

Sie verwenden scala 2.10.6, also müssen Sie spark-core_2.10 und nicht spark-core_2.11 verwenden.

Es ist der gleiche Code, mit verschiedenen Versionen von Scala kompiliert.

Answer 2

Spark 1.6, 2.11 Artefakte sind mit Scala 2.11.8 kompiliert. Dies hat die Abhängigkeitsprobleme gelöst. Vielen Dank! diese

Answer 3

Gebrauch, und auch in Eclipse Build-Pfad, verwenden 2.11 Version ..

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" 
    xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/maven-v4_0_0.xsd"> 
    <modelVersion>4.0.0</modelVersion> 
    <groupId>com.spark-scala</groupId> 
    <artifactId>spark-scala</artifactId> 
    <version>0.0.1-SNAPSHOT</version> 
    <name>${project.artifactId}</name> 
    <description>Spark in Scala</description> 
    <inceptionYear>2010</inceptionYear> 

    <properties> 
     <maven.compiler.source>1.8</maven.compiler.source> 
     <maven.compiler.target>1.8</maven.compiler.target> 
     <encoding>UTF-8</encoding> 
     <scala.tools.version>2.10</scala.tools.version> 
     <!-- Put the Scala version of the cluster --> 
     <scala.version>2.10.4</scala.version> 
    </properties> 

    <!-- repository to add org.apache.spark --> 
    <repositories> 
     <repository> 
      <id>cloudera-repo-releases</id> 
      <url>https://repository.cloudera.com/artifactory/repo/</url> 
     </repository> 
    </repositories> 

    <build> 
     <sourceDirectory>src/main/scala</sourceDirectory> 
     <testSourceDirectory>src/test/scala</testSourceDirectory> 
     <plugins> 
      <plugin> 
       <!-- see http://davidb.github.com/scala-maven-plugin --> 
       <groupId>net.alchim31.maven</groupId> 
       <artifactId>scala-maven-plugin</artifactId> 
       <version>3.2.1</version> 
      </plugin> 
      <plugin> 
       <groupId>org.apache.maven.plugins</groupId> 
       <artifactId>maven-surefire-plugin</artifactId> 
       <version>2.13</version> 
       <configuration> 
        <useFile>false</useFile> 
        <disableXmlReport>true</disableXmlReport> 
        <includes> 
         <include>**/*Test.*</include> 
         <include>**/*Suite.*</include> 
        </includes> 
       </configuration> 
      </plugin> 

      <!-- "package" command plugin --> 
      <plugin> 
       <artifactId>maven-assembly-plugin</artifactId> 
       <version>2.4.1</version> 
       <configuration> 
        <descriptorRefs> 
         <descriptorRef>jar-with-dependencies</descriptorRef> 
        </descriptorRefs> 
       </configuration> 
       <executions> 
        <execution> 
         <id>make-assembly</id> 
         <phase>package</phase> 
         <goals> 
          <goal>single</goal> 
         </goals> 
        </execution> 
       </executions> 
      </plugin> 
      <plugin> 
       <groupId>org.scala-tools</groupId> 
       <artifactId>maven-scala-plugin</artifactId> 
      </plugin> 
     </plugins> 
    </build> 

    <dependencies> 
     <dependency> 
      <groupId>org.apache.spark</groupId> 
      <artifactId>spark-core_2.11</artifactId> 
      <version>1.2.1</version> 
     </dependency> 
    </dependencies> 
</project>