python爬蟲+數據可視化項目(一) 爬取目標:中國天氣網(起始url:http://www.weather.com.cn/textFC/hb.shtml#) 爬取內容:全國實時溫度最低的十個城市氣溫排行榜 使用工具:requests庫實現發送請求、獲取響應。 beautifulsoup實現數據解 ...
python爬蟲+數據可視化項目(一)
爬取目標:中國天氣網(起始url:http://www.weather.com.cn/textFC/hb.shtml#)
爬取內容:全國實時溫度最低的十個城市氣溫排行榜
使用工具:requests庫實現發送請求、獲取響應。
beautifulsoup實現數據解析、提取和清洗
pyechart模塊實現數據可視化
爬取結果:柱狀圖可視化展示:
直接放代碼(詳細說明在註釋里,歡迎同行相互交流、學習~):
1 import requests 2 from bs4 import BeautifulSoup 3 from pyecharts import Bar 4 5 ALL_DATA = [] 6 def send_parse_urls(start_urls): 7 headers = { 8 "User-Agent": "Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)" 9 } 10 for start_url in start_urls: 11 response = requests.get(start_url,headers=headers) 12 # 編碼問題的解決 13 response = response.text.encode("raw_unicode_escape").decode("utf-8") 14 soup = BeautifulSoup(response,"html5lib") #lxml解析器:性能比較好,html5lib:適合頁面結構比較混亂的 15 div_tatall = soup.find("div",class_="conMidtab") #find() 找符合要求的第一個元素 16 tables = div_tatall.find_all("table") #find_all() 找到符合要求的所有元素的列表 17 for table in tables: 18 trs = table.find_all("tr") 19 info_trs = trs[2:] 20 for index,info_tr in enumerate(info_trs): # 枚舉函數,可以獲得索引 21 # print(index,info_tr) 22 # print("="*30) 23 city_td = info_tr.find_all("td")[0] 24 temp_td = info_tr.find_all("td")[6] 25 # if的判斷的index的特殊情況應該在一般情況的後面,把之前的數據覆蓋 26 if index==0: 27 city_td = info_tr.find_all("td")[1] 28 temp_td = info_tr.find_all("td")[7] 29 city=list(city_td.stripped_strings)[0] 30 temp=list(temp_td.stripped_strings)[0] 31 ALL_DATA.append({"city":city,"temp":temp}) 32 return ALL_DATA 33 34 def get_start_urls(): 35 start_urls = [ 36 "http://www.weather.com.cn/textFC/hb.shtml", 37 "http://www.weather.com.cn/textFC/db.shtml", 38 "http://www.weather.com.cn/textFC/hd.shtml", 39 "http://www.weather.com.cn/textFC/hz.shtml", 40 "http://www.weather.com.cn/textFC/hn.shtml", 41 "http://www.weather.com.cn/textFC/xb.shtml", 42 "http://www.weather.com.cn/textFC/xn.shtml", 43 "http://www.weather.com.cn/textFC/gat.shtml", 44 ] 45 return start_urls 46 47 def main(): 48 """ 49 主程式邏輯 50 展示全國實時溫度最低的十個城市氣溫排行榜的柱狀圖 51 """ 52 # 1 獲取所有起始url 53 start_urls = get_start_urls() 54 # 2 發送請求獲取響應、解析頁面 55 data = send_parse_urls(start_urls) 56 # print(data) 57 # 4 數據可視化 58 #1排序 59 data.sort(key=lambda data:int(data["temp"])) 60 #2切片,選擇出溫度最低的十個城市和溫度值 61 show_data = data[:10] 62 #3分出城市和溫度 63 city = list(map(lambda data:data["city"],show_data)) 64 temp = list(map(lambda data:int(data["temp"]),show_data)) 65 #4創建柱狀圖、生成目標圖 66 chart = Bar("中國最低氣溫排行榜") #需要安裝pyechart模塊 67 chart.add("",city,temp) 68 chart.render("tempture.html") 69 70 if __name__ == '__main__': 71 main()
請關註,未完待續!