Hadoop日志存在哪里

這篇文章主要講解了“Hadoop日志存在哪里”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“Hadoop日志存在哪里”吧！

1. Hadoop 1.x版本

Hadoop 1.x中MapReduce的服務日志包括JobTracker日志和各個TaskTracker日志，他們的日志位置如下：

JobTracker：在JobTracker安裝節點上，默認位置是

${hadoop.log.dir}/logs/*-jobtracker-*.log，該文件每天生成一個，舊的日志后綴是日期，當天的日志文件 后綴是“.log”，其中${hadoop.log.dir}默認值是hadoop安裝目錄，即${HADOOP_HOME}。

TaskTracker：在各個TaskTracker安裝節點上，默認位置是

$HADOOP_HOME/logs/*-tasktracker-*.log，該文件每天生成一個，舊的日志后面會跟一個日志，當天的日志文件后綴是“.log”

作業日志包括jobhistory日志和task日志兩部分，其中，jobhistory日志是作業運行日志，包括作業啟動時間、結束時間，每個任 務的啟動時間、結束時間，各種counter信息等，用戶可以從這個日志中解析出作業運行的各種信息，是非常有價值的信息。默認存放位置是 JobTracker所在節點的${hadoop.log.dir}/history目錄下，可通過參數 hadoop.job.history.location配置。每個task日志存放在task運行節點上，存放位置 是${hadoop.log.dir}/userlogs/<jobid>/<attempt-id>目錄下，每個task包含 三個日志文件，分別是stdout、stderr和syslog，其中，stdout是通過標準輸出打印出來的日志，比如 System.out.println，注意，程序中通過標準輸出打印的日志并不會直接顯示在終端上，而是保存在這個文件中，syslog是通過log4j打印的日志，通常這個日志中包含的有用信息最多，也是錯誤調試中最關鍵的參考日志。

2. Hadoop 2.x版本

Hadoop 2.x中YARN系統的服務日志包括ResourceManager日志和各個NodeManager日志，他們的日志位置如下：

ResourceManager日志存放位置是Hadoop安裝目錄下的logs目錄下的yarn-*-resourcemanager-*.log

NodeManager日志存放位置是各個NodeManager節點上hadoop安裝目錄下的logs目錄下的yarn-*-nodemanager-*.log

應用程序日志包括jobhistory日志和Container日志，其中，jobhistory日志是應用程序運行日志，包括應用程序啟動時間、結束時間，每個任務的啟動時間、結束時間，各種counter信息等。

Container日志包含ApplicationMaster日志和普通Task日志，它們均存放在Hadoop安裝目錄下的userlogs目 錄中的application_xxx目錄下，其中ApplicationMaster日志目錄名稱為container_xxx_000001，普通 task日志目錄名稱則為container_xxx_000002，container_xxx_000003，&hellip;.，同Hadoop  1.x一樣，每個目錄下包含三個日志文件：stdout、stderr和syslog，且具體含義是一樣的。

感謝各位的閱讀，以上就是“Hadoop日志存在哪里”的內容了，經過本文的學習后，相信大家對Hadoop日志存在哪里這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！