Hadoop之NameNode Federation的示例分析

這篇文章給大家分享的是有關Hadoop之NameNode Federation的示例分析的內容。小編覺得挺實用的，因此分享給大家做個參考，一起跟隨小編過來看看吧。

一. 前言

1.NameNode架構的局限性

（1）Namespace（命名空間）的限制

由于NameNode在內存中存儲所有的元數據（metadata），因此單個NameNode所能存儲的對象（文件+塊）數目受到NameNode所在JVM的heap size的限制。50G的heap能夠存儲20億（200million）個對象，這20億個對象支持4000個DataNode，12PB的存儲（假設文件平均大小為40MB）。隨著數據的飛速增長，存儲的需求也隨之增長。單個DataNode從4T增長到36T，集群的尺寸增長到8000個DataNode。存儲的需求從12PB增長到大于100PB。

（2）隔離問題

由于HDFS僅有一個NameNode，無法隔離各個程序，因此HDFS上的一個實驗程序就很有可能影響整個HDFS上運行的程序。

（3）性能的瓶頸

由于是單個NameNode的HDFS架構，因此整個HDFS文件系統的吞吐量受限于單個NameNode的吞吐量。

2.HDFS Federation架構設計，如圖所示

能不能有多個NameNode

HDFS Federation架構設計

二.實現

NameNode HA是為了解決NameNode可用性的問題，而NameNode Federation則主要是為了解決NameNode擴展性，隔離性，以及單個NameNode性能方面的問題。NameNode Federation架構如下：

NameNode Federation使用了多個命名空間，這些命名空間互相獨立，自制（其實是對元數據的水平切分），而集群中所有DataNode向所有NameNode都進行注冊，而一個塊池（block pool）有屬于同一個命名空間的數據塊組成，每個DataNode可能會存儲集群中所有塊池的數據塊，每個塊池互相獨立，有一個掛掉了也不會影響其他塊池正常工作。

同時部署了NameNode HA和NameNode Federation時，集群結構會相對復雜一點，如下圖。在實際的生成環境中，NameNode HA幾乎是必備，而當集群規模在1000臺以下時，幾乎是不需要NameNode Federation的。

感謝各位的閱讀！關于“Hadoop之NameNode Federation的示例分析”這篇文章就分享到這里了，希望以上內容可以對大家有一定的幫助，讓大家可以學到更多知識，如果覺得文章不錯，可以把它分享出去讓更多的人看到吧！