html = '''<html><head><title>The Dormouse's story</title></head><body><p class="title a " name="dromouse"><b>The Dormouse's story</b></p><p class="sto ...
html = '''<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title a " name="dromouse"><b>The Dormouse's story</b></p>
<p class="story b">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1"><!-- Elsie --></a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>
<p class="story">...</p>
</body></html>'''
XPath簡介
XPath，全稱XML Path Language,即XML路徑語言，可以在XML，HTML文檔中查找信息的語言,XPath的選擇功能十分強大，提供了非常簡明瞭的路徑選擇表達式。更多的文檔可以訪問其官方網站，http://www.w3.org/TR/xpath/。
XPath常用規則
nodename 選擇此節點的所有子節點
/ 從當前節點選擇直接子節點
// 從當前節點選擇子孫節點
. 選取當前節點
.. 選取當前節點的父節點
@ 選取屬性
準備工作
安裝lxml 命令管理視窗 pip install lxml
XPath功能
from lxml import etree
html_data = etree.HTML(html) #聲明為HTML文本 且etree可以自動修複HTML文本
print(etree.tostring(html_data).decode("utf-8")) #tostring輸出完善後的html文本 decode將 bytes->str類型
所有節點
result = html_data.xpath("//*") #表示選取所有節點
result1 = html_data.xpath("//p") # 表示選取所有p節點
print(result1)
#運行結果為
[<Element p at 0x1f7d6abf888>, <Element p at 0x1f7d67e4748>, <Element p at 0x1f7d67e4288>]
子節點
result_children = html_data.xpath("//body/p") #選取body節點里所有p節點
result_children1 = html_data.xapth("//body/a")
print(result_children1)
#運行結果為
[]
#通過上述程式表明//用於獲取子孫節點 /用於獲取直接子節點 ，而a節點不為body節點的直接子節點
父節點
#第一種方法
print(html_data.xpath('//a[@class="sister"]/../@class')) #獲取a節點父節點p節點的class對應的值a節點為第一個a節點
#運行結果為
['story']
第二種方法
result = html_data.xpath('//a[@class="sister"]/parent::*/@class') #通過parent::來獲取父節點
屬性匹配
result = html_data.xpath('//a[@class="sister"]') #選取所有class值為sister的節點
print（result）
運行結果為
[<Element a at 0x1f7d696d848>, <Element a at 0x1f7d67e4288>, <Element a at 0x1f7d6abf888>]
#獲取文本
result = html_data.xpath('//a[2][@class="sister"]/./text()') #獲得第二個a節點的文本值
print(result)
#運行結果為
['Lacie']
#獲取屬性值
result = html_data.xpath('//a[2][@class="sister"]/@href') #獲取第二個a節點的href值
print(result)
#運行結果為
['http://example.com/lacie']
多種屬性值匹配
result = html_data.xpath('//p[contains(@class,"b")]/a/text()') #獲取所有p節點下的a節點的文本
print(result)
#運行結果為
['Lacie', 'Tillie']
#多屬性匹配
result = html_data.xpath('//a[contains(@class,"sister") and @id="link2"]//text()') #獲取第二個節點a的文本值
print(result)
#輸出結果為
['Lacie']
按序選擇
result = html_data.xpath('//a[last()-1]//text()') #選取倒數第二個a節點的文本值
result1=html_data.xpath('//a[position()<3]//text()') #選取位置序號小於3的a節點 由於第一個a節點的文本值為空
#輸出結果為
print(result)
['Lacie']
節點軸選擇
result = html_data.xpath('//a[1][@id="link1"]/ancestor::*') #獲取所有第一個a節點的所有祖先節點
#輸出結果為[<Element html at 0x1f7d6a35488>, <Element body at 0x1f7d67e4cc8>, <Element p at 0x1f7d67e4ec8>]
result = html_data.xpath('//a[1][@id="link1"]/ancestor::p')#獲取p祖先節點
#接下來便不再提供輸出結果，有興趣者可以自行編寫
result = html_data.xpath('//a[2][@id="link2"]/attribute::*')#獲取第二個a節點的所有屬性值
result = html_data.xpath('//p[contains(@class,"story")]/child::a[@id="link2"]')#調用child軸，可以獲取所有子節點，並且限定獲取id=link2的a節點
result = html_data.xpath('//body/descendant::b') #獲取body子孫節點，並且只獲取子孫節點b
result = html_data.xpath('//p/following-sibling::*') #獲取當前節點之後所有的同級節點
`
