AWS EMR 5.0 wird mit Spark: Spark 2.0.0 on Hadoop 2.7.2 YARN with Ganglia 3.7.2 and Zeppelin 0.6.1
vorverpackt geliefert, aber Zeppelin 0.6.1 unterstützt nur Spark 1.6.x. Gibt es eine Möglichkeit, die Versionsdiskrepanz zu beheben, ohne eine benutzerdefinierte Version von Zeppelin zu erstellen und bereitzustellen?Wie Sie AWS EMR Spark- und Zeppelin-Versionskonflikte beheben können?
0
A
Antwort
1
Die angepasste Version von Zeppelin auf emr-5.0.0 funktioniert mit Spark 2.0.
1
Dies ist nicht wahr. Zeppelin 0.6.1 war die erste Version, die mit Spark 2.0.0 funktioniert.
+0
Beachten Sie, dass der mit EMR 5.0.0 ausgelieferte Zeppelin 0.6.1-SNAPSHOT fehlerhaft ist und nur spark 2.0 unterstützt. Insbesondere funktionieren UDFs nicht. Das ist in Zeppelin 0.6.2 festgelegt – conradlee
Verwandte Themen
- 1. AWS EMR Spark 1.0
- 2. Spark UI auf AWS EMR
- 3. Spark AWS EMR Checkpoint Location
- 4. AWS EMR Spark Schrittargus Bug
- 5. Wie löschen Sie einen AWS EMR Cluster?
- 6. Verbinden Sie Amazon EMR Spark mit MySQL (Schreiben von Daten)
- 7. Spark auf EMR konfigurieren
- 8. Spark Ausführungszeit vs Anzahl der Knoten auf AWS EMR
- 9. Spark Schritt in EMR
- 10. AWS EMR PySpark Verbindung mysql
- 11. Sentry in AWS EMR
- 12. Speicherplatzproblem in AWS EMR-Cluster
- 13. AWS-EMR: Wo ist die Protokolldatei?
- 14. Schreiben Sie eine Datei in S3 mit Spark on EMR
- 15. Redshift Abfrage von EMR Spark-
- 16. Wie EMR S3DistCp groupBy richtig?
- 17. Wie starte ich Garn auf AWS EMR
- 18. Wie Java-Client einer Verbindung zu AWS EMR Funken Cluster
- 19. So stoppen Sie einen lang andauernden Spark-Streaming-Schritt in AWS EMR
- 20. E-Mail-Fehlerprotokolle von AWS Spark
- 21. JSON in Parquet mit EMR/Spark umwandeln
- 22. amazon emr spark Einreichung von S3 funktioniert nicht
- 23. Zugriff auf JDBC-Treiber über Funken mit AWS EMR-Instanz
- 24. Spark läuft auf EC2 vs EMR
- 25. AWS EMR - Hochladen in die Anwendung Master-Datei
- 26. AWS EMR Schritt fehlgeschlagen, da Jobs fehlgeschlagen
- 27. Amazon AWS EMR "Nein" Konfiguration Beispielanwendung
- 28. Garn hält auf EMR Spark-Anwendungs Master
- 29. AWS EMR Kerberisierung des Clusters hadoop.security.AccessControlException
- 30. Ipython auf AWS mit Spark 1.61
gleich hier. Ich habe kein Problem mit Zeppelin mit Funken 2.0 auf EMR 5.0 (beide pyspark und Funken) – Niros
Hinweis: Die Version von Zeppelin auf emr-5.0.0 ist 0.6.1-SNAPSHOT, weil 0.6.1 wurde nicht vollständig freigegeben von der Zeit emr- 5.0.0 wurde gerade veröffentlicht. Die 0.6.1-SNAPSHOT-Version, die mit emr-5.0.0 veröffentlicht wurde, ist jedoch nicht weit von der Version 0.6.1 entfernt, die Spark 2.0 unterstützt. –
Auch die offizielle Version von Zeppelin 0.6.1 wurde in emr-4.8.0 veröffentlicht (einige Zeit nachdem emr-5.0.0 herauskam), und Zeppelin 0.6.1 wird auf der nächsten Version von emr-5.x erscheinen wenn es rauskommt. –