您好,登錄后才能下訂單哦!
本篇內容介紹了“資源管理調度器Hadoop Yarn知識點有哪些”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
從節點,每個節點上的資源和任務管理器,它需要向ResourceManager匯報本節點上的資源使用情況和各個Container的運行狀態,同時接收并處理來自Application Master的Container啟動/停止等各種請求
4.監控所有任務運行狀態,并在任務運行失敗時重新為任務申請資源以重啟任務
可以理解為Yarn中為某個節點已經申請到的資源封裝的類,資源如內存、CPU等,是根據應用程序需求動態生成的,是Yarn中基本資源劃分單位。一個NodeManager節點上同時存在多個Container。提交作業的每個task都運行在Container中
筆者強調:
1.Yarn并不清楚用戶提交程序的運行機制,只提供運算資源的調度(用戶程序向yarn申請資源,yarn負責分配資源)
2.Yarn中的主管角色是ResourceManager,具體提供運算資源的角色是NodeManager
3.Yarn與運行的用戶程序完全解耦,意味著Yarn上可以運行各種類型的分布式運算程序,如Spark、MapReduce、Storm、Tez等,前提是這些技術框架中有符合Yarn規范的資源請求機制即可
4.因為Yarn不參與用戶程序的執行等,使得Yarn成為一個通用的資源調度平臺。企業中以前存在的各種計算引擎集群都可以整合在一個資源管理平臺上,提高資源利用率
5.調度器不參與任何與具體應用程序相關的工作,如不負責監控或者跟蹤應用的執行狀態等,也不負責重新啟動因應用執行失敗或者硬件故障而產生的失敗任務,這些均交由應用程序相關的Application Master完成。
“資源管理調度器Hadoop Yarn知識點有哪些”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。