Python中怎么爬取天氣數據

這期內容當中小編將會給大家帶來有關Python中怎么爬取天氣數據，文章內容豐富且以專業的角度為大家分析和敘述，閱讀完這篇文章希望大家可以有所收獲。

使用pygal繪圖，使用該模塊前需先安裝pip install pygal，然后導入import pygal

bar = pygal.Line() # 創建折線圖
bar.add('最低氣溫', lows) #添加兩線的數據序列
bar.add('最高氣溫', highs) #注意lows和highs是int型的列表
bar.x_labels = daytimes
bar.x_labels_major = daytimes[::30]
bar.x_label_rotation = 45
bar.title = cityname+'未來七天氣溫走向圖' #設置圖形標題
bar.x_title = '日期' #x軸標題
bar.y_title = '氣溫(攝氏度)' # y軸標題
bar.legend_at_bottom = True
bar.show_x_guides = False
bar.show_y_guides = True
bar.render_to_file('temperate1.svg') # 將圖像保存為SVG文件，可通過瀏覽器

完整代碼

import csv

import sys

import urllib.request

from bs4 import BeautifulSoup # 解析頁面模塊

import pygal

import cityinfo



cityname = input("請輸入你想要查詢天氣的城市:")

if cityname in cityinfo.city:

citycode = cityinfo.city[cityname]

else:

sys.exit()

url = '非常抱歉，網頁無法訪問' + citycode + '.shtml'

header = ("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.132 Safari/537.36") # 設置頭部信息

http_handler = urllib.request.HTTPHandler()

opener = urllib.request.build_opener(http_handler) # 修改頭部信息

opener.addheaders = [header]

request = urllib.request.Request(url) # 制作請求

response = opener.open(request) # 得到應答包

html = response.read() # 讀取應答包

html = html.decode('utf-8') # 設置編碼，否則會亂碼

# 根據得到的頁面信息進行初步篩選過濾

final = [] # 初始化一個列表保存數據

bs = BeautifulSoup(html, "html.parser") # 創建BeautifulSoup對象

body = bs.body

data = body.find('div', {'id': '7d'})

print(type(data))

ul = data.find('ul')

li = ul.find_all('li')

# 爬取自己需要的數據

i = 0 # 控制爬取的天數

lows = [] # 保存低溫

highs = [] # 保存高溫

daytimes = [] # 保存日期

weathers = [] # 保存天氣

for day in li: # 便利找到的每一個li

if i < 7:

temp = [] # 臨時存放每天的數據

date = day.find('h2').string # 得到日期

#print(date)

temp.append(date)

daytimes.append(date)

inf = day.find_all('p') # 遍歷li下面的p標簽 有多個p需要使用find_all 而不是find

#print(inf[0].string) # 提取第一個p標簽的值，即天氣

temp.append(inf[0].string)

weathers.append(inf[0].string)

temlow = inf[1].find('i').string # 最低氣溫

if inf[1].find('span') is None: # 天氣預報可能沒有最高氣溫

temhigh = None

temperate = temlow

else:

temhigh = inf[1].find('span').string # 最高氣溫

temhigh = temhigh.replace('℃', '')

temperate = temhigh + '/' + temlow

# temp.append(temhigh)

# temp.append(temlow)

lowStr = ""

lowStr = lowStr.join(temlow.string)

lows.append(int(lowStr[:-1])) # 以上三行將低溫NavigableString轉成int類型并存入低溫列表

if temhigh is None:

highs.append(int(lowStr[:-1]))

highStr = ""

highStr = highStr.join(temhigh)

highs.append(int(highStr)) # 以上三行將高溫NavigableString轉成int類型并存入高溫列表

temp.append(temperate)

final.append(temp)

i = i + 1

# 將最終的獲取的天氣寫入csv文件

with open('weather.csv', 'a', errors='ignore', newline='') as f:

f_csv = csv.writer(f)

f_csv.writerows([cityname])

f_csv.writerows(final)

# 繪圖

bar = pygal.Line() # 創建折線圖

bar.add('最低氣溫', lows)

bar.add('最高氣溫', highs)

bar.x_labels = daytimes

bar.x_labels_major = daytimes[::30]

# bar.show_minor_x_labels = False # 不顯示X軸最小刻度

bar.x_label_rotation = 45

bar.title = cityname+'未來七天氣溫走向圖'

bar.x_title = '日期'

bar.y_title = '氣溫(攝氏度)'

bar.legend_at_bottom = True

bar.show_x_guides = False

bar.show_y_guides = True

bar.render_to_file('temperate.svg')

Python爬取天氣數據實例擴展：

import requests

from bs4 import BeautifulSoup

from pyecharts import Bar

 

ALL_DATA = []

def send_parse_urls(start_urls):

headers = {

"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36"

}

for start_url in start_urls:

response = requests.get(start_url,headers=headers)

# 編碼問題的解決

response = response.text.encode("raw_unicode_escape").decode("utf-8")

soup = BeautifulSoup(response,"html5lib") #lxml解析器：性能比較好，html5lib：適合頁面結構比較混亂的

div_tatall = soup.find("div",class_="conMidtab") #find() 找符合要求的第一個元素

tables = div_tatall.find_all("table") #find_all() 找到符合要求的所有元素的列表

for table in tables:

trs = table.find_all("tr")

info_trs = trs[2:]

for index,info_tr in enumerate(info_trs): # 枚舉函數，可以獲得索引

# print(index,info_tr)

# print("="*30)

city_td = info_tr.find_all("td")[0]

temp_td = info_tr.find_all("td")[6]

# if的判斷的index的特殊情況應該在一般情況的后面，把之前的數據覆蓋

if index==0:

city_td = info_tr.find_all("td")[1]

temp_td = info_tr.find_all("td")[7]

city=list(city_td.stripped_strings)[0]

temp=list(temp_td.stripped_strings)[0]

ALL_DATA.append({"city":city,"temp":temp})

return ALL_DATA

 

def get_start_urls():

start_urls = [

"http://www.weather.com.cn/textFC/hb.shtml",

"http://www.weather.com.cn/textFC/db.shtml",

"http://www.weather.com.cn/textFC/hd.shtml",

"http://www.weather.com.cn/textFC/hz.shtml",

"http://www.weather.com.cn/textFC/hn.shtml",

"http://www.weather.com.cn/textFC/xb.shtml",

"http://www.weather.com.cn/textFC/xn.shtml",

"http://www.weather.com.cn/textFC/gat.shtml",

]

return start_urls

 

def main():

"""

主程序邏輯

展示全國實時溫度最低的十個城市氣溫排行榜的柱狀圖

"""

# 1 獲取所有起始url

start_urls = get_start_urls()

# 2 發送請求獲取響應、解析頁面

data = send_parse_urls(start_urls)

# print(data)

# 4 數據可視化

#1排序

data.sort(key=lambda data:int(data["temp"]))

#2切片，選擇出溫度最低的十個城市和溫度值

show_data = data[:10]

#3分出城市和溫度

city = list(map(lambda data:data["city"],show_data))

temp = list(map(lambda data:int(data["temp"]),show_data))

#4創建柱狀圖、生成目標圖

chart = Bar("中國最低氣溫排行榜") #需要安裝pyechart模塊

chart.add("",city,temp)

chart.render("tempture.html")

 

if __name__ == '__main__':

main()

上述就是小編為大家分享的Python中怎么爬取天氣數據了，如果剛好有類似的疑惑，不妨參照上述分析進行理解。如果想知道更多相關知識，歡迎關注億速云行業資訊頻道。