Ich bin neu in EMR und versuchten Funkenjob als Schritt mit so etwas wie command-runner.jar spark-submit --deploy-mode cluster --class com.xx.xx.className s3n://mybuckets/spark-jobs.jar
jedoch zu starten, der Funken Job muss Anmeldeinformationen als Umgebungsvariablen, meine Frage ist, was der beste Weg ist, um die Anmeldeinformationen als Umgebungsvariablen an die Spark-Jobs zu übergeben.
Danke!Lauf Funke auf AWS EMR, indem Anmeldeinformationen
0
A
Antwort
0
Werfen Sie einen Blick hier: AWS EMR 4.0 - How can I add a custom JAR step to run shell commands und hier: http://docs.aws.amazon.com/emr/latest/ReleaseGuide/emr-hadoop-script.html versuchen Schritt ähnliche (Argumente) ausgeführt wird:/usr/bin/Funken einreichen --deploy-Modus Cluster --Klasse
Verwandte Themen
- 1. Spark UI auf AWS EMR
- 2. Sentry in AWS EMR
- 3. AWS EMR Spark 1.0
- 4. Presto auf AWS EMR: Zugriff über Farbton
- 5. AWS EMR-Dateierstellung auf Cluster funktioniert nicht
- 6. Wie starte ich Garn auf AWS EMR
- 7. Amazon AWS EMR "Nein" Konfiguration Beispielanwendung
- 8. Lauf Funke als Java Web-Anwendung
- 9. Speicherplatzproblem in AWS EMR-Cluster
- 10. Spark AWS EMR Checkpoint Location
- 11. AWS EMR PySpark Verbindung mysql
- 12. AWS EMR Spark Schrittargus Bug
- 13. AWS Java SDK-Anmeldeinformationen
- 14. aws keine Anmeldeinformationen Fehler
- 15. Lauf Funke-Maschine Beispiel auf Garn Lernen fehlgeschlagen
- 16. YARN-Protokollaggregation in AWS EMR - UnsupportedFileSystemException
- 17. Lauf Docker Bild auf AWS EC2
- 18. Zugriff auf AWS S3 mit temporären Anmeldeinformationen
- 19. Wie Java-Client einer Verbindung zu AWS EMR Funken Cluster
- 20. AWS 'EMR vs EC2 Preise Verwirrung
- 21. RStudio auf Amazon EMR-Cluster
- 22. Jenkins Packer AWS Anmeldeinformationen Validierung
- 23. AWS EMR Kerberisierung des Clusters hadoop.security.AccessControlException
- 24. AWS-EMR: Wo ist die Protokolldatei?
- 25. Autoscaling AWS EMR-Cluster 0 Knoten
- 26. AWS-CLI mit Instanzprofil-Anmeldeinformationen
- 27. AWS EMR Schritt fehlgeschlagen, da Jobs fehlgeschlagen
- 28. Spark Ausführungszeit vs Anzahl der Knoten auf AWS EMR
- 29. auto scale aws EMR basierend auf benutzerdefinierten CloudWatch-Metriken
- 30. Setup AWS-Datenpipeline auf lange laufenden EMR-Cluster