Java中多線程下載圖片并壓縮能不能提高效率

小編給大家分享一下Java中多線程下載圖片并壓縮能不能提高效率，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

前言

需求 導出Excel：本身以為是一個簡單得導出,但是每行得記錄文件中有一列為圖片url,需要下載所有記錄行對應得圖片，然后壓縮整個文件夾。

這里只做4.5.得代碼講解描述,其它也沒什么好說得，話不多說上代碼.

實現思路

多線程實現使用了線程池,Jdk1.8并發包下的CompletableFuture

第一步：得到基礎數值

// 線程數
        Integer threadNum = 10;
        // 每條線程需要處理的圖片數  
        int dataNum = imageInfoVos.size() / threadNum;
        // 寫入線程數
        List<Integer> threadS = new ArrayList<>();
        for(int i=0; i<threadNum; i++){
                threadS.add(i);
        }

首先我們保存了需要下載的圖片的Url列表，多線程的方式下載我們需要保證每個線程下載的圖片不會重復,因此我們需要根據規則來切割保存Url列表的集合，從而保證每個線程下載屬于自己的任務,上代碼：

 // 接上文代碼
 threadS.stream().map(item -> CompletableFuture.runAsync(() ->{
                List<Image> theadItem = imageInfoVos.subList(dataNum * item,(item+1)==threadNum?imageInfoVos.size():Math.min(dataNum * (item + 1 ), imageInfoVos.size()));
                        threadDownPic(theadItem,item,dirName);
            },threadPoolTaskExecutor)).collect(Collectors.toList()).forEach(item ->{
                try {
                    item.get();
                }catch (Exception e){
                    log.error("============  多線程down執行等待異常 msg:{} =============", e.getMessage());
                }
    });

這里進行拆分講解

使用CompletableFuture.runAsync 走異步方式,遍歷item

如item=10,也就是線程數為10,則直接執行10次(有線程池的前提下)

 // 使用CompletableFuture.runAsync 走異步方式,遍歷item
 // 如item=10,也就是線程數為10,則直接執行10次(有線程池的前提下)
 threadS.stream().map(item -> CompletableFuture.runAsync(() ->{

規則：根據item數值通過sublist 從開始到結束,截取對應線程所需要下載的Url列表

例：dataNum為每個線程需要完成的下載數如上文 dataNum為100時

如：item=0 dataNum* item(0) =0,Math.min(dataNum * (item + 1 )=100

(item+1)==threadNum?imageInfoVos.size() 此次是為了保證最后一個線程處理最后不足的圖片

根據如上規則即可得到每個線程需要下載的圖片Url保證不會重復

   // 根據item數值通過sublist 從開始到結束,截取對應線程所需要下載的Url列表
   // 例：dataNum為每個線程需要完成的下載數如上文 dataNum為100時
   // 如：item=0 dataNum* item(0) =0,Math.min(dataNum * (item + 1 )=100
   // 根據如上規則即可得到每個線程需要下載的圖片Url保證不會重復
   // (item+1)==threadNum?imageInfoVos.size() 此次是為了保證最后一個線程處理最后不足的圖片
   List<ImageInfoVo> theadItem = imageInfoVos.subList(dataNum * item,(item+1)==threadNum?imageInfoVos.size():Math.min(dataNum * (item + 1 ), imageInfoVos.size()));
   // theadItem:圖片Url  item：所屬下標  dirName：寫入路徑url
   threadDownPic(theadItem,item,dirName);

由于執行的異步方式,此處是為了線程池中所有線程都結束才能往下走,執行壓縮文件步驟，這里提一嘴，如果沒有手動賦予線程池，CompletableFuture默認使用ForkJoinPool.commonPool,會根據電腦核心數來指定，
比如：我本機未指定就是7個線程，執行方法時，會執行完前面7個線程任務，才會繼續創建3個線程繼續執行后續未完成的

   },threadPoolTaskExecutor)).collect(Collectors.toList()).forEach(item ->{
                try {
                    item.get();
                }catch (Exception e){
                    log.error("============  多線程down執行等待異常 msg:{} =============", e.getMessage());
                }
            });

實測

主要代碼也寫完了,這種方式真的能提高效率嗎？下面我貼幾張測試圖來說明

其實這種方式并沒有顯著的提高效率，當然這是我本機環境測試的。

效率是由網速決定,而不是由本機Cpu和io決定,比如10M帶寬,一個線程一個一個順序下載,但速度是10M,10個線程,可能每個線程的速度是1M,結果沒有什么兩樣。

相對于網速,多線程帶來的cpu以及io節省的時間幾乎可以忽略，瓶頸還是在網速.

以上是“Java中多線程下載圖片并壓縮能不能提高效率”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！