學習PyQuery庫

来源:https://www.cnblogs.com/cany/archive/2019/05/10/10847200.html
-Advertisement-
Play Games

學習PyQuery庫 好了,又是學習的時光啦,今天學習pyquery 來進行網頁解析 常規導入模塊(PyQuery庫中的pyquery類) from pyquery import PyQuery as pq 通常使用url初始化 doc = pq(url='http://www.baidu.com' ...


學習PyQuery庫

好了,又是學習的時光啦,今天學習pyquery 來進行網頁解析

常規導入模塊(PyQuery庫中的pyquery類)
from pyquery import PyQuery as pq

通常使用url初始化
doc = pq(url='http://www.baidu.com')

文件初始化
doc = pq(filename='demo.html')

基本CSS選擇器的使用,以起點中文網的為例子
doc = pq(url='https://www.qidian.com/free/all')

下麵來獲取小說名字信息
1.打開瀏覽器,進入要分析的網頁
2.F12開發人員調試工具
enter description here
3.進行元素檢查
4.定位到爬取節點指定位置
5.分析一下 我們自己寫 CSS選擇器方法

id 使用的是# class 使用的是英文句號 空格代表 層級關係
enter description here

此時我們先使用語句來獲取頁面中的所有<h4>的元素
doc = pq(url='https://www.qidian.com/free/all')
a = doc('h4').items()
for i in a:
print(i)

迭代出所篩選出來的結果
enter description here

但也會遇到上面的情況,共同是h4元素的,但篩選到我們不想要的數據。

這時我們可以採用往上級找,直到找到有區別的元素。
enter description here

doc = pq(url='https://www.qidian.com/free/all')
a = doc('.book-mid-info h4').items()
for i in a:
    print(i)

得到了期待的數據!!!(要還是有那前兩個,說明還定位不夠準確,再往上一層走)
enter description here

我們如果要獲取簡介內容,我們可以下圖方式代碼 獲取子節點(記得find方法是子孫節點)
enter description here

但上圖也沒抓取我們特別想要的信息呀,這時發現 我們所指定的解析底下有很多li標簽 里標簽底下又有很多內容,所以此時還得繼續往下解析。
enter description here

首先我們用children方法查找子節點,然後使用items方法來得到一個生成器,將數據遍歷列印或者添加到列表中,方便數據存儲和最終結果列印。

此時我們來獲取一下小說的圖片鏈接試試 利用attrs方法 來返回屬性字典 進一步獲取value值。
enter description here

怎麼來抓取解析節點 理清層級關係 利用好 F12來分析就好啦!!!

總結一下:
id 使用的是# class 使用的是英文句號 空格代表 層級關係
find()方法是遍歷子孫節點
chlidren()方法是獲取節點的子節點(看上面實例也支持往下繼續選擇節點)
parent()方法是獲取節點的父節點
parents()方法是獲取節點的所有父節點(下麵實例從所有祖先節點中挑選出符合條件的節點)

parent = items.parents('.wrap')
print(parent)

siblings()方法是獲取兄弟節點(下麵實例從所有兄弟節點中挑選出符合條件的節點)

from pyquery import PyQuery as pq
doc = pq(html)
li = doc('.list .item-0.active')
print(li.siblings('.active'))

items()方法是用於遍歷每一個節點結果
attr()方法是返回屬性字典 進一步獲取value值
text()方法是獲取節點內部文本(Tips:當內容中前後出現\n 空格 可配合strip()來刪除)

也可以百度學習下偽類選擇器來獲取節點數據,而且右鍵就能copy出表達式!!!
enter description here


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 緣起 本項目是基於之前學習的一個Dubbo+SSM分散式項目進行升級,基於此項目對前後端分離項目、微服務項目進一步深入學習。之前學習了vue、springBoot、springCloud後,沒有進行更多實戰練習,藉助此機會,整合之前所學知識,搭建一套微服務電商系統。本項目純屬個人學習總結,如有錯誤之 ...
  • 在c語言中實現全排列,對於剛接觸c語言,還沒學習演算法的人來說,比較困難了吧。估計大佬也不會看這種基礎的東西,全排列實現的辦法很多,在c++中有一個專門的函數可以使用,但是在c中實現就有點困難了。如果你想出用一個迴圈使一個數字每一位都不相同,那麼你就走進了死衚衕,這種辦法運算量巨大,往往到了高位就會超 ...
  • 轉自:PHP在無限分類時註意的一些問題(http://lxiaoke.cn) (註意:代碼使用的是原生PHP,旨在提供解決思路)1 無限分類的查找(獲取所有節點) 代碼: /** * 無限分類查詢,預設 pid 為 0 * @param $pid * @return array $res */ pr ...
  • JAVA流程語句有幾下幾種: 一、if語句: 1.if語句:如果滿足條件語句,則執行執行語句; if(條件語句){ 執行語句; ....; } 2.if....else語句:如果滿足判斷語句,則執行執行語句1,否則執行執行語句2; if(判斷語句{ 執行語句1; .....; }else{ 執行語句 ...
  • 大家好,忙裡抽空更新一下自己的博客,算是自己的一個進步,C語言視頻啟蒙我早就看完啦,只是覺得這個視頻真不錯,所以給大家分享一下,同時自己還有很多沒有理解透徹,寫寫博客算是一個筆記更是對自己所學的知識的吸收,廢話不多直接開始今天的主題,"C語言的選擇結構" 關係運算符 小於:< 大於:> 等於:= = ...
  • 描述Object wait()/notify()跟Condition await()/signal()的基本用法,三連問:解釋為什麼wait() 要放在while裡面?為什麼wait()方法放在Object對象中?為什麼wait()必須在同步方法/代碼塊中調用?以及這兩種通知/等待機制的區別 ...
  • 昨天組內同學在使用php父子進程模式的時候遇到了一個比較詭異的問題 簡單說來就是:因為fork,父子進程共用了一個redis連接、然後父子進程在發送了各自的redis請求分別獲取到了對方的響應體。 復現示例代碼: testFork.php PowerSpawn.php 主要用戶進程fork管理工作 ...
  • 1. HTML 定義 BS 模式:Browser、Server,即瀏覽器與伺服器模式。 HTML(Htyper Markup Language)即超文本標記語言,超文本(頁面內可以包含圖片、鏈接、引用、甚至程式 ),標記語言:標記(標簽)構成的語言。 網頁 網頁即 HTML文檔,由瀏覽器解析並展示出 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...