精彩不停!Python解析庫lxml與xpath用法總結(jié)
4.xpath 軸
軸可定義相對于當(dāng)前節(jié)點的節(jié)點集。
軸名稱結(jié)果ancestor選取當(dāng)前節(jié)點的所有先輩(父、祖父等)。ancestor-or-self選取當(dāng)前節(jié)點的所有先輩(父、祖父等)以及當(dāng)前節(jié)點本身。attribute選取當(dāng)前節(jié)點的所有屬性。child選取當(dāng)前節(jié)點的所有子元素。descendant選取當(dāng)前節(jié)點的所有后代元素(子、孫等)。descendant-or-self選取當(dāng)前節(jié)點的所有后代元素(子、孫等)以及當(dāng)前節(jié)點本身。following選取文檔中當(dāng)前節(jié)點的結(jié)束標(biāo)簽之后的所有節(jié)點。namespace選取當(dāng)前節(jié)點的所有命名空間節(jié)點。parent選取當(dāng)前節(jié)點的父節(jié)點。preceding選取文檔中當(dāng)前節(jié)點的開始標(biāo)簽之前的所有節(jié)點。preceding-sibling選取當(dāng)前節(jié)點之前的所有同級節(jié)點。self選取當(dāng)前節(jié)點。
5.xpath運算符
下面列出了可用在 XPath 表達(dá)式中的運算符:
運算符描述實例返回值|計算兩個節(jié)點集//book | //cd返回所有擁有 book 和 cd 元素的節(jié)點集+加法6 + 410-減法6 - 42*乘法6 * 424div除法8 div 42=等于price=9.80如果 price 是 9.80,則返回 true。如果 price 是 9.90,則返回 false。!=不等于price。9.80如果 price 是 9.90,則返回 true。如果 price 是 9.80,則返回 false。<小于price<9.80如果 price 是 9.00,則返回 true。如果 price 是 9.90,則返回 false。<=小于或等于price<=9.80如果 price 是 9.00,則返回 true。如果 price 是 9.90,則返回 false。>大于price>9.80如果 price 是 9.90,則返回 true。如果 price 是 9.80,則返回 false。>=大于或等于price>=9.80如果 price 是 9.90,則返回 true。如果 price 是 9.70,則返回 false。or或price=9.80 or price=9.70如果 price 是 9.80,則返回 true。如果 price 是 9.50,則返回 false。and與price>9.00 and price<9.90如果 price 是 9.80,則返回 true。如果 price 是 8.50,則返回 false。mod計算除法的余數(shù)5 mod 21
好了,xpath的內(nèi)容就這么多了。接下來我們要介紹一個神器lxml,他的速度很快,曾經(jīng)一直是我使用beautifulsoup時最鐘愛的解析器,沒有之一,因為他的速度的確比其他的html.parser 和html5lib快了許多。
二、lxml
1.lxml安裝
lxml 是一個xpath格式解析模塊,安裝很方便,直接pip install lxml 或者easy_install lxml即可。
2.lxml 使用
lxml提供了兩種解析網(wǎng)頁的方式,一種是你解析自己寫的離線網(wǎng)頁時,另一種 則是解析線上網(wǎng)頁。
導(dǎo)入包:
from lxml import etree
1.解析離線網(wǎng)頁:
html=etree.parse('xx.html',etree.HTMLParser())aa=html.xpath('/[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/@href')print(aa)
2.解析在線網(wǎng)頁:
from lxml import etreeimport requestsrep=requests.get('https://www.baidu.com')html=etree.HTML(rep.text)aa=html.xpath('/[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/@href')print(aa)
那么我們怎么獲取這些標(biāo)簽和標(biāo)簽對應(yīng)的屬性值了,很簡單,首先獲取標(biāo)簽只需你這樣做:
然后我們可以,比方說,你要獲取a標(biāo)簽內(nèi)的文本和它的屬性href所對應(yīng)的值,有兩種方法,
1.表達(dá)式內(nèi)獲取
aa=html.xpath('/[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/text()')
ab=html.xpath('/[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/@href')
2.表達(dá)式外獲取
aa=html.xpath('/[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]')
aa.text
aa.a(chǎn)ttrib.get('href')
這樣就完成了獲取,怎么樣,是不是很簡單了,哈哈哈。
下面再來lxml的解析規(guī)則:
表達(dá)式描述nodename選取此節(jié)點的所有子節(jié)點/從當(dāng)前節(jié)點選取直接子節(jié)點//從當(dāng)前節(jié)點選取子孫節(jié)點.選取當(dāng)前節(jié)點..選取當(dāng)前節(jié)點的父節(jié)點@選取屬性
html = lxml.etree.HTML(text)#使用text構(gòu)造一個XPath解析對象,etree模塊可以自動修正HTML文本html = lxml.etree.parse('./ex.html',etree.HTMLParser())#直接讀取文本進行解析from lxml import etreeresult = html.xpath('/')#選取所有節(jié)點result = html.xpath('//li')#獲取所有l(wèi)i節(jié)點result = html.xpath('//li/a')#獲取所有l(wèi)i節(jié)點的直接a子節(jié)點result = html.xpath('//li//a')#獲取所有l(wèi)i節(jié)點的所有a子孫節(jié)點result = html.xpath('//a[@href="link.html"]/../@class')#獲取所有href屬性為link.html的a節(jié)點的父節(jié)點的class屬性result = html.xpath('//li[@class="ni"]')#獲取所有class屬性為ni的li節(jié)點result = html.xpath('//li/text()')#獲取所有l(wèi)i節(jié)點的文本result = html.xpath('//li/a/@href')#獲取所有l(wèi)i節(jié)點的a節(jié)點的href屬性result = html.xpath('//li[contains(@class,"li")]/a/text())#當(dāng)li的class屬性有多個值時,需用contains函數(shù)完成匹配result = html.xpath('//li[contains(@class,"li") and @name="item"]/a/text()')#多屬性匹配result = html.xpath('//li[1]/a/text()')result = html.xpath('//li[last()]/a/text()')result = html.xpath('//li[position()<3]/a/text()')result = html.xpath('//li[last()-2]/a/text()')#按序選擇,中括號內(nèi)為XPath提供的函數(shù)result = html.xpath('//li[1]/ancestor::*')#獲取祖先節(jié)點result = html.xpath('//li[1]/ancestor::div')result = html.xpath('//li[1]/attribute::*')#獲取屬性值result = html.xpath('//li[1]/child::a[@href="link1.html"]')#獲取直接子節(jié)點result = html.xpath('//li[1]/descendant::span')#獲取所有子孫節(jié)點result = html.xpath('//li[1]/following::*[2]')#獲取當(dāng)前節(jié)點之后的所有節(jié)點的第二個result = html.xpath('//li[1]/following-sibling::*')#獲取后續(xù)所有同級節(jié)點
3.lxml案例
為了偷懶,小編決定還是采用urllib那篇文章的代碼,哈哈哈,機智如我。
好了,今天就講這么多,大家感興趣的話可以多多關(guān)注哦,精彩不停息。。。

最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺
- 4 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機器人東風(fēng)翻身?