2017-08-12 3 views
0

Ich habe Hadoop in meinem Laptop, und wenn ich einen Auftrag auf Hadoop (obwohl MapReduce und Tez), den Status immer akzeptiert, aber der Fortschritt immer steckte bei 0% und Beschreibung schrieb etwas wie "Warten auf AM Container zugewiesen werden".Yarn UI zeigt keinen aktiven Knoten, während es in HDFS UI

Wenn ich den Knoten durch GARN UI überprüfen (localhost: 8088), es zeigt, dass der aktive Knoten ist 0

enter image description here

Aber von HDFS UI (localhost: 50070), es zeigt, dass es sind ein Live-Knoten.

enter image description here

Ist das der Hauptgrund, dass der Job stecken verursachen, da es keine verfügbaren Knoten sind? Wenn das der Fall ist, was soll ich tun?

Antwort

1

In Ihrem GARN UI, es zeigt Sie haben Null vcores und Null Speicher, so gibt es keine Möglichkeit für jeden Job ausgeführt je ist, da Sie Computing-Ressourcen fehlen. Der Datanode ist nur für den Speicher (in diesem Fall HDFS) und spielt keine Rolle, warum Ihre Anwendung blockiert ist.

Ihr Problem zu beheben, müssen Sie Ihre Garn-site.xml und bieten Einstellungen für die Speicher und vcore Eigenschaften im folgenden beschrieben aktualisieren:

http://blog.cloudera.com/blog/2015/10/untangling-apache-hadoop-yarn-part-2/ Sie

eine Cloudera Quick VM könnte in Betracht ziehen oder Hortonworks Sandbox (zumindest als Referenz für Konfigurationswerte für die Website "yarn-site.xml").

https://www.cloudera.com/downloads/quickstart_vms/5-10.html https://hortonworks.com/products/sandbox/

+0

Hallo, habe ich Ihre Antwort und in der Lage folgen Sie den Knoten zu bringen, aber ich bin immer noch nicht erfolgreich jeden hadoop Job ausführen. –

+0

Wie viele Gesamt-VCores und Gesamtspeicher haben Sie jetzt in der YARN UI? Wenn Sie sagen, dass Sie einen Knoten erstellt haben, meinen Sie auch einen Knoten-Manager? Sie benötigen diesen Dienst mit YARN, um Jobs auszuführen. – tk421

+0

Ja, der Knotenmanager kann nun erfolgreich hochfahren. Mein Laptop hat 8GB oder RAM und 4 Kerne. In Garn-site.xml setze ich die Garn.nodemanager.resource.memory-mb auf 6GB und yarn.nodemanager.resource.cpu-vcores auf 4. Daher in YARN UI zeigt es 6 GB RAM und 4 Kerne als insgesamt. –

Verwandte Themen