Python中如何使用正則表達式對文本類的數據進行提取

小編給大家分享一下Python中如何使用正則表達式對文本類的數據進行提取，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

環境介紹：

python 3.6

pycharm

requests

re

json

爬蟲的一般思路

1、確定爬取的url路徑，headers參數

2、發送請求 -- requests 模擬瀏覽器發送請求，獲取響應數據

3、解析數據 -- re模塊：提供全部的正則表達式功能

4、保存數據 -- 保存json格式的數據

完整步驟：

1、安裝庫和導入模塊

如果沒有安裝庫的，可以WIN+R，然后輸入cmd，最后輸入代碼安裝

pip install requests

安裝完成后可以輸入代碼查看你安裝過所有的庫：

pip list

導入模塊

import requests 
import re import json

2、確定爬取的url路徑，headers參數

base_url = 'https://www.guokr.com/ask/highlight/'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}

3、發送請求 -- requests 模擬瀏覽器發送請求，獲取響應數據

response = requests.get(base_url, headers=headers)
data = response.text

4、解析數據 -- re模塊：提供全部的正則表達式功能

href="https://www.guokr.com/question/669761/">印度人把男人的生殖器叫林伽，把女人的生殖器叫瑜尼，林伽和瑜尼的交合，便是瑜伽。這是真還是假的</a></h3>

編譯正則表達式 預編譯的代碼對象比直接使用字符串要快，因為解釋器在執行字符串形式的代碼前都必須把字符串編譯成代碼對象

pattern = re.compile('<h3><a target="_blank">

5、保存json格式的文件

with open("guoke01.json", 'w', encoding='utf-8') as f:
    f.write(json_data_list)

6.構建一個循環爬取

for page in range(1, 101):
    print("====正在爬取第{}業數據====\n".format(page))

優化代碼，把page傳遞進去

base_url = 'https://www.guokr.com/ask/highlight/?page={}'.format(str(page))

把列表添加到for循環上面去

data_list = []

最后運行代碼，效果如下圖：

以上是“Python中如何使用正則表達式對文本類的數據進行提取”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！