Durch Aufruf von Spark-submit
werden die Standard-Ivy-Protokolle für abgerufene Pakete angezeigt. Während sie für den ersten Start relevant sind, machen Cache-Strategien die Protokollierung mit Cache-Hits oft nicht so nützlich.Deaktivieren der Ivy-Protokollierung bei Verwendung von Spark-submit
Was ist der beste Weg, um die Protokolle zu deaktivieren?
Ich will nicht Dinge sehen, wie:
Ivy Default Cache set to: /root/.ivy2/cache
The jars for the packages stored in: /root/.ivy2/jars
:: loading settings :: url = jar:file:/usr/local/spark-2.0.2-bin-hadoop2.4/jars/ivy-2.4.0.jar!/org/apache/ivy/core/settings/ivysettings.xml
com.amazonaws#aws-java-sdk added as a dependency
org.apache.hadoop#hadoop-aws added as a dependency
...