怎么樣搭建Hadoop3.2.0集群

怎么樣搭建Hadoop3.2.0集群？很多新手對此不是很清楚，為了幫助大家解決這個難題，下面小編將為大家詳細講解，有這方面需求的人可以來學習下，希望你能有所收獲。

一 端口變化

3.2.0版本中namenode頁面端口是9870,datanode管理端口是8088,所以需要開放這兩個端口還給web頁面訪問

二but there is no YARN_RESOURCEMANAGER_USER defined. Aborting operation

hadoop-env.sh中不光需要配置java-home,還需要聲明下面這些用戶變量,不然無法啟動:

export JAVA_HOME=/usr/local/jdk/jdk1.8.0_191
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

三 3.2.0版本mapred-site.xml 文件配置需要加mapreduce.application.classpath屬性

<property> <name>mapreduce.application.classpath</name> <value> /usr/local/hadoop3/etc/hadoop, /usr/local/hadoop3/share/hadoop/common/*, /usr/local/hadoop3/share/hadoop/common/lib/*, /usr/local/hadoop3/share/hadoop/hdfs/*, /usr/local/hadoop3/share/hadoop/hdfs/lib/*, /usr/local/hadoop3/share/hadoop/mapreduce/*, /usr/local/hadoop3/share/hadoop/mapreduce/lib/*, /usr/local/hadoop3/share/hadoop/yarn/*, /usr/local/hadoop3/share/hadoop/yarn/lib/* </value> </property>

四 salave文件編程workers文件了,內容配置是一樣的

五 啟動成功不報錯,但最蛋疼的Live Nodes為0問題

解決步驟:

一 先查看datanode 日志:

如果出現這個說明連接配置有問題,查看core-site.xml配置,這個是配置datanode和namnode通信的:

一看

這里配置的連接地址有問題

hdfs應該配置成namnode的地址,不能配置成datanode的地址,所有節點都一樣,這個地址,配置完成重啟成功

網上還有說/etc/hots解析不成功的,這個也是一個原因,配置好域名映射就可以了,重要的是先看日志分析是什么問題

最后成功頁面

看完上述內容是否對您有幫助呢？如果還想對相關知識有進一步的了解或閱讀更多相關文章，請關注億速云行業資訊頻道，感謝您對億速云的支持。