【Python爬蟲項目實戰】Python爬蟲豆瓣Top250電影短評數據保存本地

来源:https://www.cnblogs.com/guzichuan/archive/2023/01/13/17048603.html
-Advertisement-
Play Games

前言 今天給大家介紹的是Python爬蟲豆瓣Top250電影短評數據保存本地,在這裡給需要的小伙伴們幫助,並且給出一點小心得。 開發工具 **Python版本:**3.6 相關模塊: requests模塊 parsel模塊 time模塊 環境搭建 安裝Python並添加到環境變數,pip安裝需要的相 ...


前言

今天給大家介紹的是Python爬蟲豆瓣Top250電影短評數據保存本地,在這裡給需要的小伙伴們幫助,並且給出一點小心得。

開發工具

Python版本:3.6

相關模塊:

requests模塊

parsel模塊

time模塊

環境搭建

安裝Python並添加到環境變數,pip安裝需要的相關模塊即可。

文中完整代碼及文件,評論留言獲取

數據來源查詢分析

瀏覽器中打開我們要爬取的頁面
按F12進入開發者工具,查看我們想要的電影短評在哪裡
這裡我們需要頁面數據就可以了

頁面數據

代碼實現

headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36'
}

for page in range(1, 20):
    url = f'https://movie.douban.com/subject/35613853/comments?start={page*20}&limit=20&status=P&sort=new_score'
    data_html = requests.get(url=url, headers=headers).text
    selector = parsel.Selector(data_html)
    comment_list = selector.css('.comment-item')
    for comment in comment_list:
        short = comment.css('.short::text').get().strip()
        name = comment.css('.comment-info a::text').get().strip()
        time = comment.css('.comment-time::text').get().strip()
        vote_count = comment.css('.votes.vote-count::text').get().strip()
        print(short, name, time, vote_count)

最後

今天的分享到這裡就結束了 ,感興趣的朋友也可以去試試哈

對文章有問題的,或者有其他關於python的問題,可以在評論區留言或者私信我哦

覺得我分享的文章不錯的話,可以關註一下我,或者給文章點贊(/≧▽≦)/


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 2023-01-12 一、逆向工程 1、逆向工程 資料庫中表影響程式中代碼(表影響java對象)。 MyBatis Generator:簡稱MGB,是一個專門為MyBatis框架使用定製的代碼生成器,可以快速的根據表生成對應的映射文件,介面,以及bean類。 2、正向工程 應用程式中代碼影響資料庫表 ...
  • 例題1:洛谷 P1775 我們可以設 dp[l][r] 為將區間 [l,r] 區間內的所有石子都合併成一堆時造成的最小代價。 如何求出 dp[l][r] 呢?此時我們可以枚舉一個斷點 k,把 [l,r] 區間分成兩個區間:$[l,k]$ 和 [k+1,r],很明顯,k ∈ [l,r-1] 現在就很容 ...
  • 指針: 什麼是指針?表示數據存儲的地址 語法:數據類型 *指針名 被指針對象 *prt 是值 prt 是地址 int *prt = &xxx,聲明指針並保存地址 //引入頭文件 #include <stdio.h> void main(){ int num = 1; int num2 = 200; ...
  • 1 簡介 Terraform是管理許多平臺的基礎設施的工具,如AWS、GCP和Azure。這篇文章將講解如何通過Terraform來管理GCP Pub/Sub。 創建GCP項目請參考:初始化一個GCP項目並用gcloud訪問操作 2 Terraform創建Pub/Sub 2.1 下載Terrafor ...
  • 之前給大家介紹的Aorm庫,都用上了嗎?這可是迄今為止我見過的,go領域最好用的資料庫操作庫了。本期文章,我們來說Aorm的全對象操作,它可以使你的系統更健壯。 ...
  • 臨近春節,這幾天手頭沒什麼事情,花了點時間,將自己近兩年收集的面試真題,進行了一番深度歸納總結,整理出了這份面試大綱,基本上涵蓋了國內一二線互聯網公司的Java面試題(一、二、三面技術面試)。 我這樣做的唯一目的是希望讓面試題本身有跡可循,不讓小伙伴們在準備面試的時候,不會被埋沒在茫茫題海中,面對眾... ...
  • 儘管微服務中的“微”一詞表示服務的規模,但它並不是使用微服務的唯一標準。當團隊轉向基於微服務的架構時,他們旨在提高敏捷性以及自主且頻繁地部署功能。很難確定這種架構風格的簡單定義。我喜歡Adrian Cockcroft的關於微服務的簡短定義: “ 面向服務的體繫結構,它由鬆散耦合的、具有上下文邊界的元 ...
  • 大家好,我是王有志。關註王有志,一起聊技術,聊游戲,從北漂生活談到國際風雲。 之前我們已經通過3篇文章由淺到深的分析了synchronized的用法和原理: synchronized的基礎:synchronized都問啥? 偏向鎖升級到輕量級鎖:從源碼揭秘偏向鎖的升級 輕量級鎖升級到重量級鎖:什麼是 ...
一周排行
    -Advertisement-
    Play Games
  • 1. 說明 /* Performs operations on System.String instances that contain file or directory path information. These operations are performed in a cross-pla ...
  • 視頻地址:【WebApi+Vue3從0到1搭建《許可權管理系統》系列視頻:搭建JWT系統鑒權-嗶哩嗶哩】 https://b23.tv/R6cOcDO qq群:801913255 一、在appsettings.json中設置鑒權屬性 /*jwt鑒權*/ "JwtSetting": { "Issuer" ...
  • 引言 集成測試可在包含應用支持基礎結構(如資料庫、文件系統和網路)的級別上確保應用組件功能正常。 ASP.NET Core 通過將單元測試框架與測試 Web 主機和記憶體中測試伺服器結合使用來支持集成測試。 簡介 集成測試與單元測試相比,能夠在更廣泛的級別上評估應用的組件,確認多個組件一起工作以生成預 ...
  • 在.NET Emit編程中,我們探討了運算操作指令的重要性和應用。這些指令包括各種數學運算、位操作和比較操作,能夠在動態生成的代碼中實現對數據的處理和操作。通過這些指令,開發人員可以靈活地進行算術運算、邏輯運算和比較操作,從而實現各種複雜的演算法和邏輯......本篇之後,將進入第七部分:實戰項目 ...
  • 前言 多表頭表格是一個常見的業務需求,然而WPF中卻沒有預設實現這個功能,得益於WPF強大的控制項模板設計,我們可以通過修改控制項模板的方式自己實現它。 一、需求分析 下圖為一個典型的統計表格,統計1-12月的數據。 此時我們有一個需求,需要將月份按季度劃分,以便能夠直觀地看到季度統計數據,以下為該需求 ...
  • 如何將 ASP.NET Core MVC 項目的視圖分離到另一個項目 在當下這個年代 SPA 已是主流,人們早已忘記了 MVC 以及 Razor 的故事。但是在某些場景下 SSR 還是有意想不到效果。比如某些靜態頁面,比如追求首屏載入速度的時候。最近在項目中回歸傳統效果還是不錯。 有的時候我們希望將 ...
  • System.AggregateException: 發生一個或多個錯誤。 > Microsoft.WebTools.Shared.Exceptions.WebToolsException: 生成失敗。檢查輸出視窗瞭解更多詳細信息。 內部異常堆棧跟蹤的結尾 > (內部異常 #0) Microsoft ...
  • 引言 在上一章節我們實戰了在Asp.Net Core中的項目實戰,這一章節講解一下如何測試Asp.Net Core的中間件。 TestServer 還記得我們在集成測試中提供的TestServer嗎? TestServer 是由 Microsoft.AspNetCore.TestHost 包提供的。 ...
  • 在發現結果為真的WHEN子句時,CASE表達式的真假值判斷會終止,剩餘的WHEN子句會被忽略: CASE WHEN col_1 IN ('a', 'b') THEN '第一' WHEN col_1 IN ('a') THEN '第二' ELSE '其他' END 註意: 統一各分支返回的數據類型. ...
  • 在C#編程世界中,語法的精妙之處往往體現在那些看似微小卻極具影響力的符號與結構之中。其中,“_ =” 這一組合突然出現還真不知道什麼意思。本文將深入剖析“_ =” 的含義、工作原理及其在實際編程中的廣泛應用,揭示其作為C#語法奇兵的重要角色。 一、下劃線 _:神秘的棄元符號 下劃線 _ 在C#中並非 ...