一.简介:
XPath 是一门在 XML 文档中查找信息的语言。XPath 可用来在 XML 文档中对元素和属性进行遍历.
二.安装
pip install lxml
三.使用
/ 从根标签开始 必须具有严格的父子关系
// 从当前标签 后续节点含有即可选出
* 通配符 ,选择所有
//div/book[1]/title 选择div下第一个book标签的title元素
//div/book/title[@lang=\"zh\"]选择title属性含有lang且内容是zh的title元素
//div/book/title //book/title //title 具有相同的结果,因为使用相对路径最终都指向title
//book/title/@* 将所有的属性值选择出来
//book/title/text() 将title的内容选择出来,使用内置text()函数
//a[@href=\"link1.html\" and @id=\"places_neighbours__row\"]/text()
//div/book[last()]/title/text() 将最后一个book元素选出
//div/book[price>39]/title 将book子标签price数值大于39的选择出来
//li[starts-with(@class,\'item\')] 将class属性前缀是item的li标签选出来
//title[contains(@lang,\'eng\')] 将title属性lang含有eng关键字的标签选出
四.示例:
首先需要导入需要的包
from lxml import etree
基本使用
from lxml import etree
wb_data = \"\"\"
<div>
<ul>
<li class=\"item-0\"><a href=\"link1.html\">first item</a></li>
<li class=\"item-1\"><a href=\"link2.html\">second item</a></li>
<li class=\"item-inactive\"><a href=\"link3.html\">third item</a></li>
<li class=\"item-1\"><a href=\"link4.html\">fourth item</a></li>
<li class=\"item-0\"><a href=\"link5.html\">fifth item</a>
</ul>
</div>
\"\"\"
html = etree.HTML(wb_data)
print(html)
result = etree.tostring(html)
print(result.decode(\"utf-8\"))
从下面的结果来看,我们打印机html其实就是一个python对象,etree.tostring(html)则是不全里html的基本写法,补全了缺胳膊少腿的标签。
<Element html at 0x39e58f0>
<html><body><div>
<ul>
<li class=\"item-0\"><a href=\"link1.html\">first item</a></li>
<li class=\"item-1\"><a href=\"link2.html\">second item</a></li>
<li class=\"item-inactive\"><a href=\"link3.html\">third item</a></li>
<li class=\"item-1\"><a href=\"link4.html\">fourth item</a></li>
<li class=\"item-0\"><a href=\"link5.html\">fifth item</a>
</li></ul>
</div>
</body></html>
获取某个标签的内容(基本使用),注意,获取a标签的所有内容,a后面就不用再加正斜杠,否则报错。
写法一
html = etree.HTML(wb_data)
html_data = html.xpath(\'/html/body/div/ul/li/a\')
print(html)
for i in html_data:
print(i.text)
#打印结果
<Element html at 0x12fe4b8>
first item
second item
third item
fourth item
fifth item
写法二(直接在需要查找内容的标签后面加一个/text()就行)
html = etree.HTML(wb_data)
html_data = html.xpath(\'/html/body/div/ul/li/a/text()\')
print(html)
for i in html_data:
print(i)
#打印结果
<Element html at 0x138e4b8>
first item
second item
third item
fourth item
fifth item
打开读取html文件
#使用parse打开html的文件
html = etree.parse(\'test.html\')
html_data = html.xpath(\'//*\')<br>#打印是一个列表,需要遍历
print(html_data)
for i in html_data:
print(i.text)
html = etree.parse(\'test.html\')
html_data = etree.tostring(html,pretty_print=True)
res = html_data.decode(\'utf-8\')
print(res)
打印:
<div>
<ul>
<li class=\"item-0\"><a href=\"link1.html\">first item</a></li>
<li class=\"item-1\"><a href=\"link2.html\">second item</a></li>
<li class=\"item-inactive\"><a href=\"link3.html\">third item</a></li>
<li class=\"item-1\"><a href=\"link4.html\">fourth item</a></li>
<li class=\"item-0\"><a href=\"link5.html\">fifth item</a></li>
</ul>
</div>
打印指定路径下a标签的属性(可以通过遍历拿到某个属性的值,查找标签的内容)
html = etree.HTML(wb_data)
html_data = html.xpath(\'/html/body/div/ul/li/a/@href\')
for i in html_data:
print(i)
打印:
link1.html
link2.html
link3.html
link4.html
link5.html
我们知道我们使用xpath拿到得都是一个个的ElementTree对象,所以如果需要查找内容的话,还需要遍历拿到数据的列表。
查到绝对路径下a标签属性等于link2.html的内容。
html = etree.HTML(wb_data)
html_data = html.xpath(\'/html/body/div/ul/li/a[@href=\"link2.html\"]/text()\')
print(html_data)
for i in html_data:
print(i)
打印:
[\'second item\']
second item
上面我们找到全部都是绝对路径(每一个都是从根开始查找),下面我们查找相对路径,例如,查找所有li标签下的a标签内容。
html = etree.HTML(wb_data)
html_data = html.xpath(\'//li/a/text()\')
print(html_data)
for i in html_data:
print(i)
打印:
[\'first item\', \'second item\', \'third item\', \'fourth item\', \'fifth item\']
first item
second item
third item
fourth item
fifth item
上面我们使用绝对路径,查找了所有a标签的属性等于href属性值,利用的是/—绝对路径,下面我们使用相对路径,查找一下l相对路径下li标签下的a标签下的href属性的值,注意,a标签后面需要双//。
html = etree.HTML(wb_data)
html_data = html.xpath(\'//li/a//@href\')
print(html_data)
for i in html_data:
print(i)
打印:
[\'link1.html\', \'link2.html\', \'link3.html\', \'link4.html\', \'link5.html\']
link1.html
link2.html
link3.html
link4.html
link5.html
相对路径下跟绝对路径下查特定属性的方法类似,也可以说相同。
html = etree.HTML(wb_data)
html_data = html.xpath(\'//li/a[@href=\"link2.html\"]\')
print(html_data)
for i in html_data:
print(i.text)
打印:
[<Element a at 0x216e468>]
second item
查找最后一个li标签里的a标签的href属性
html = etree.HTML(wb_data)
html_data = html.xpath(\'//li[last()]/a/text()\')
print(html_data)
for i in html_data:
print(i)
打印:
[\'fifth item\']
查找倒数第二个li标签里的a标签的href属性
html = etree.HTML(wb_data)
html_data = html.xpath(\'//li[last()-1]/a/text()\')
print(html_data)
for i in html_data:
print(i)
打印:
[\'fourth item\']
fourth item
版权声明
本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。


