亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

怎樣深入理解batched_reduce_size

發布時間:2021-12-10 11:30:56 來源:億速云 閱讀:146 作者:柒染 欄目:大數據

這期內容當中小編將會給大家帶來有關怎樣深入理解batched_reduce_size,文章內容豐富且以專業的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

在search 流程中,協調節點收到客戶端的查詢請求后,將請求涉及到的轉發到其他數據節點,這個過程中會以 shard 為單位發送 query請求,待所有的請求都收到響應(QuerySearchResult)后進行下一步處理。

batched_reduce_size 參數用于控制在Search過程中,當協調節點收到指定的結果時執行一次 reduce。

官網對他的解釋如下:

(Optional, integer) The number of shard results that should be reduced at once on the coordinating node. This value should be used as a protection mechanism to reduce the memory overhead per search request if the potential number of shards in the request can be large. Defaults to 512.

這個解釋看上去難以理解本質,因此查閱一下代碼,重新解釋一下這個參數的含義:協調節點并行發送完 query 請求后,收到的響應QuerySearchResult達到batched_reduce_size數量時,執行一次 reduce,reduce 執行以下操作:

  1. 如果請求中含有聚合,則對這批結果執行聚合

  2. 如果請求中需要計算 TopN,則對這批結果執行計算

因此這個參數的主要作用是防止協調節點為了匯總全部結果而占用太多內存。

主要實現代碼如下,bufferSize就是batched_reduce_size設置的值,默認為512

private synchronized void consumeInternal(QuerySearchResult querySearchResult) {
   if (index == bufferSize) {
       if (hasAggs) {
           InternalAggregations reducedAggs = InternalAggregations.reduce(Arrays.asList(aggsBuffer), reduceContext);
           Arrays.fill(aggsBuffer, null);
           aggsBuffer[0] = reducedAggs;
       }
       if (hasTopDocs) {
           TopDocs reducedTopDocs = mergeTopDocs(Arrays.asList(topDocsBuffer),
                   querySearchResult.from() + querySearchResult.size(), 0);
           Arrays.fill(topDocsBuffer, null);
           topDocsBuffer[0] = reducedTopDocs;
       }
       numReducePhases++;
       index = 1;
   }
   final int i = index++;
   if (hasAggs) {
       aggsBuffer[i] = (InternalAggregations) querySearchResult.consumeAggs();
   }
   if (hasTopDocs) {
       topDocsBuffer[i] = topDocs.topDocs;
   }
}

上述就是小編為大家分享的怎樣深入理解batched_reduce_size了,如果剛好有類似的疑惑,不妨參照上述分析進行理解。如果想知道更多相關知識,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

班戈县| 泸西县| 乐安县| 蒙自县| 阳朔县| 湘乡市| 福安市| 阜平县| 托克托县| 浦城县| 临夏县| 沈丘县| 长岭县| 新沂市| 广汉市| 武义县| 香格里拉县| 安仁县| 星子县| 遂川县| 三原县| 武威市| 大余县| 剑阁县| 城市| 黎平县| 江安县| 南城县| 云和县| 肇源县| 苏尼特左旗| 鹤峰县| 吴川市| 株洲市| 衢州市| 江口县| 富宁县| 景谷| 湾仔区| 英德市| 贡嘎县|