您好,登錄后才能下訂單哦!
本篇內容主要講解“Python怎么批量檢查圖像是否可用”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“Python怎么批量檢查圖像是否可用”吧!
數據集中的圖像,一般不可用在以下3個方面:
1.圖像過小
2.無法打開
3.“Premature end of JPEG file”
這些圖像可能會導致模型的學習異常,因此,使用多進程檢查數據集中的每張圖像,是很有必要的。
具體邏輯如下:
遍歷文件夾,多進程處理每一張圖像
判斷圖像是否可讀,是否支持resize尺寸,邊長是否滿足
判斷JPG圖像是否Premature end
刪除錯誤圖像
腳本如下:
#!/usr/bin/env python # -- coding: utf-8 -- """ Copyright (c) 2020. All rights reserved. Created by C. L. Wang on 10.11.20 """ import argparse import os from multiprocessing import Pool import cv2 def traverse_dir_files(root_dir, ext=None): """ 列出文件夾中的文件, 深度遍歷 :param root_dir: 根目錄 :param ext: 后綴名 :return: [文件路徑列表, 文件名稱列表] """ names_list = [] paths_list = [] for parent, _, fileNames in os.walk(root_dir): for name in fileNames: if name.startswith('.'): # 去除隱藏文件 continue if ext: # 根據后綴名搜索 if name.endswith(tuple(ext)): names_list.append(name) paths_list.append(os.path.join(parent, name)) else: names_list.append(name) paths_list.append(os.path.join(parent, name)) return paths_list, names_list def check_img(path, size): """ 檢查圖像 """ is_good = True try: img_bgr = cv2.imread(path) h, w, _ = img_bgr.shape if h < size or w < size: is_good = False _ = cv2.resize(img_bgr, (size, size)) except Exception as e: is_good = False if path.endswith("jpg"): with open(path, 'rb') as f: check_chars = f.read()[-2:] if check_chars != b'\xff\xd9': print('[Info] Not complete jpg image') is_good = False if not is_good: print('[Info] error path: {}'.format(path)) os.remove(path) def check_error(img_dir, n_prc, size): """ 檢查錯誤圖像的數量 """ print('[Info] 處理文件夾路徑: {}'.format(img_dir)) paths_list, names_list = traverse_dir_files(img_dir) print('[Info] 數據總量: {}'.format(len(paths_list))) pool = Pool(processes=n_prc) # 多線程下載 for idx, path in enumerate(paths_list): pool.apply_async(check_img, (path, size)) if (idx+1) % 1000 == 0: print('[Info] idx: {}'.format(idx+1)) pool.close() pool.join() print('[Info] 數據處理完成: {}'.format(img_dir)) def parse_args(): """ 處理腳本參數,支持相對路徑 :return: in_folder 輸入文件夾, size 尺寸, n_prc 進程數 """ parser = argparse.ArgumentParser(description='檢查圖片腳本') parser.add_argument('-i', dest='in_folder', required=True, help='輸入文件夾', type=str) parser.add_argument('-p', dest='n_prc', required=False, default=100, help='進程數', type=str) parser.add_argument('-s', dest='size', required=False, default=50, help='最小邊長', type=str) args = parser.parse_args() in_folder = args.in_folder size = int(args.size) n_prc = int(args.n_prc) print("[Info] 文件路徑:{}".format(in_folder)) print("[Info] 進程數: {}".format(n_prc)) print("[Info] 邊長: {}".format(size)) return in_folder, n_prc, size def main(): arg_in, n_prc, size = parse_args() check_error(arg_in, n_prc, size) if __name__ == '__main__': main()
到此,相信大家對“Python怎么批量檢查圖像是否可用”有了更深的了解,不妨來實際操作一番吧!這里是億速云網站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。