要在所有執行器上設置日誌級別,必須在每個worker的JVM中設置。
例如:
% scala sc.parallelize (Seq(" "))。foreachPartition(x => {import org.apache.log4j. log。{LogManager, Level}導入org.apache.commons.logging.LogFactory LogManager. getrootlogger ().setLevel(Level.DEBUG) val log = LogFactory.getLog(" execute - log:") log. DEBUG ("START EXECUTOR調試日誌級別")})
要驗證級別是否已設置,請導航到火花UI,選擇執行人選項卡,並打開stderr任何執行程序的日誌: