亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

資源管理調度器Hadoop Yarn知識點有哪些

發布時間:2021-12-09 15:38:28 來源:億速云 閱讀:128 作者:iii 欄目:大數據

本篇內容介紹了“資源管理調度器Hadoop Yarn知識點有哪些”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!

Yarn(Yet Another Resource Negotiator)是一個資源調度平臺,負責為運算程序如Spark、MapReduce分配資源和調度,不參與用戶程序內部工作。  同樣是Master/Slave架構。
全局資源管理器(ResourceManager)    
主節點,全局資源管理器,負責整個系統的資源管理和分配,主要由調度器和應用程序管理器組成。  
 調度器根據容量、隊列等限制條件(如每個隊列分配多少資源、最多執行一定數量的作業等)將系統中資源分配給各個正在運行的應用程序。  
 應用程序管理器(ApplicationsManager)負責管理整個系統中所有應用程序,包括應用程序提交、與調度器協商資源以啟動、監控Application Master,并且在失敗時重新啟動它等    
節點資源管理器(NodeManager)     

從節點,每個節點上的資源和任務管理器,它需要向ResourceManager匯報本節點上的資源使用情況和各個Container的運行狀態,同時接收并處理來自Application Master的Container啟動/停止等各種請求

應用管理器(Application Master)  
用戶提交的每個應用程序均包含1個應用管理器,對應到運行MapReduce為MRAppMaster,主要功能包括:
1.向全局資源管理器申請資源
2.將得到的資源進一步分配給內部的任務
3.與節點資源管理器通信以啟動/停止任務

4.監控所有任務運行狀態,并在任務運行失敗時重新為任務申請資源以重啟任務

Container    

可以理解為Yarn中為某個節點已經申請到的資源封裝的類,資源如內存、CPU等,是根據應用程序需求動態生成的,是Yarn中基本資源劃分單位。一個NodeManager節點上同時存在多個Container。提交作業的每個task都運行在Container中

Yarn調度器  
根據一些限制條件如每個隊列分配多少資源、最多執行多少數量的作業,將系統中資源按照應用程序的資源需求分配給各個應用程序,資源分配單位就是上文提到的container,并且用戶可以根據自己的需求設計新的調度器,目前Yarn也提供了多種可直接使用的調度器:  

資源管理調度器Hadoop Yarn知識點有哪些

FIFOScheduler(先進先出調度器):  不支持搶占先機。  如果有運行特別慢的任務,會影響其他任務
FairScheduler(公平調度器):  每個用戶公平共享集群資源,支持搶占先機,如果有的任務長時間占用大量資源,超出其應該分配的資源比例,會終止得到過多資源的任務
CapacityScheduler(容量調度器):  有層次結構的隊列,每個隊列分配一定的容量(比如將小job和大job分配到不同的隊列),單個隊列內部支持FIFO  

筆者強調:

1.Yarn并不清楚用戶提交程序的運行機制,只提供運算資源的調度(用戶程序向yarn申請資源,yarn負責分配資源)
2.Yarn中的主管角色是ResourceManager,具體提供運算資源的角色是NodeManager
3.Yarn與運行的用戶程序完全解耦,意味著Yarn上可以運行各種類型的分布式運算程序,如Spark、MapReduce、Storm、Tez等,前提是這些技術框架中有符合Yarn規范的資源請求機制即可
4.因為Yarn不參與用戶程序的執行等,使得Yarn成為一個通用的資源調度平臺。企業中以前存在的各種計算引擎集群都可以整合在一個資源管理平臺上,提高資源利用率
5.調度器不參與任何與具體應用程序相關的工作,如不負責監控或者跟蹤應用的執行狀態等,也不負責重新啟動因應用執行失敗或者硬件故障而產生的失敗任務,這些均交由應用程序相關的Application Master完成。

“資源管理調度器Hadoop Yarn知識點有哪些”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

牟定县| 思茅市| 思南县| 通州市| 永兴县| 宁津县| 交口县| 巴中市| 沙坪坝区| 曲沃县| 延安市| 长垣县| 蓝田县| 安吉县| 开封市| 石阡县| 元氏县| 新蔡县| 郓城县| 靖西县| 隆安县| 张家界市| 连平县| 吉安县| 上蔡县| 偃师市| 鸡西市| 唐河县| 桐乡市| 游戏| 大理市| 泗阳县| 两当县| 芜湖市| 图片| 修文县| 井冈山市| 甘谷县| 昆山市| 博湖县| 临城县|