您好,登錄后才能下訂單哦!
本篇文章給大家分享的是有關MapReduce的特性有哪些,小編覺得挺實用的,因此分享給大家學習,希望大家閱讀完這篇文章后可以有所收獲,話不多說,跟著小編一起來看看吧。
作用:計數器是收集作業統計信息的有效手段之一,用于質量控制或應用級統計。計數器還可輔助診斷系統故障。
任務計數器
文件系統計數器
FileInputFormat 計數器
FileOutputFormat計數器
作業計數器
作業計數器由application master維護,因此無需在網絡間傳輸數據
用戶定義的java計數器
用戶定義的Streaming 計數器
部分排序
許多應用并不強求待處理的文件全局有序
全排序
思路:首先,創建一系列排好序的文件 其次 串聯這些文件 最后生成一個全局排序的文件。主要思路是使用一個partitioner來描述輸出的全局排序
MapReduce 能夠執行大型數據集間的“連接”操作
map端連接
reduce 端連接 更常用
是作業所需的額外的只讀數據,已輔助處理主數據集
利用JobConf來配置作業
分布式緩存
以上就是MapReduce的特性有哪些,小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。