溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇文章給大家分享的是有關spark核心組件是什么，小編覺得挺實用的，因此分享給大家學習，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。
spark核心組件如下所示：
在SparkContext初始化的時候，會初始化一系列內容：
查看內存使用情況：
集群核心組件中的Block tracker是用于block和partition對應關系的管理。
集群核心組件中的shuffle tracker是用于記錄shuffle操作的過程細節。
從集群中也可以看出，Executor在執行任務的時候是采用多線程的方式執行的并能夠在HDFS或者HBase等系統上讀取數據。
而在實際的Driver Program運行的時候每個partition都會由一個task負責運行的
以上就是spark核心組件是什么，小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
