xpath即为xml路径语言,它是一种用来确定xml(标准通用标记语言的子集)文档中某部分位置的语言。xpath基于xml的树状结构,有不同类型的节点,包括元素节点,属性节点和文本节点,提供在数据结构树中找寻节点的能力。起初 xpath 的提出的初衷是将其作为一个通用的、介于xpointer与xslt间的语法模型。但是 xpath 很快的被开发者采用来当作小型查询语言。
简单来说我们通过xpath可以获取xml中的指定元素和指定节点的值。在网络爬虫中我们通过会把爬虫获取的html数据转换成xml结构,然后通过xpath解析,获取我们想要的结果。
接下来为大家分享以下xpath的表达式以及用法。
xpath使用路径表达式在xml文档中选取节点。节点是通过沿着路径来选取的,通过路径可以找到我们想要的节点或者节点范围。
表达式 |
描述 |
用法 |
说明 |
nodename |
选取此节点的所有子节点。 |
xpath(‘span’) |
选取span元素的所有子节点 |
/ |
从根节点选取 |
xpath(‘/div’) |
从根节点上选取div节点 |
// |
从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
|
xpath(‘//div’) |
从当前节点选取含有div节点的标签 |
. |
选取当前节点 |
xpath(‘./div’) |
选取当前节点下的div标签 |
.. |
选取当前节点的父节点 |
xpath(‘../’) |
回到上一级节点 |
@ |
选取属性 |
xpath(“//div[@id=’1001’]”) |
获取div标签中,含有id属性且值为1001的标签 |
二.谓语(predicates)
谓语用来查找某个特定的节点或者包含某个指定的值的节点。
谓语被嵌在方括号中。
表达式描述 |
用法说明 |
/bookstore/book[1] |
选取属于 bookstore 子元素的第一个 book 元素。 |
/bookstore/book[last()] |
选取属于 bookstore 子元素的最后一个 book 元素。 |
/bookstore/book[last()-1] |
选取属于 bookstore 子元素的倒数第二个 book 元素。 |
/bookstore/book[position()<3] |
选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
//title[@lang] |
选取所有拥有名为 lang 的属性的 title 元素。 |
//title[@lang='eng'] |
选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 |
/bookstore/book[price>35.00] |
选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 |
/bookstore/book[price>35.00]/title |
选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。 |
三. 通配符
xpath 通配符可用来选取未知的 xml 元素,通配指定节点。
表达式 |
描述 |
用法 |
说明 |
* |
匹配任何元素节点 |
xpath(/div/*) |
选取div下的所有子节点 |
@* |
匹配任何属性节点 |
xpath(/div[@*]) |
选取所有带属性的div节点 |
node() |
匹配任何类型的节点 |
xpath(//div[@class=’tb_cls’]).node() |
选择标签为div且类属性为tb_cls的所有标签 |
四.多路径选择
通过在路径表达式中使用“|”运算符,您可以选取若干个路径。
用法 |
说明 |
xpath(//book/title |//book/price) |
选取 book 元素的所有 title 和 price 元素。 |
xpath(//title| //price) |
选取文档中的所有 title 和 price 元素 |
五.xpath 轴
轴可定义相对于当前节点的节点集。
表达式 |
描述 |
用法 |
说明 |
ancestor |
选取当前节点的所有先辈(父、祖父等) |
xpath(//div[@id=’123’]/ancestor::*) |
选择标签为div且id号为123的所有先辈标签 |
ancestor-or-self |
选取当前节点的所有先辈(父、祖父等)以及当前节点本身 |
xpath(//div[@id=’123’]/ancestor-or-self::*) |
选择标签为div且id号为123的所有先辈标签且包含自己 |
attribute |
选取当前节点的所有属性 |
xpath(//div[@id=’123’]/attribute::class) |
选择标签为div且id号为123的类属性名称 |
child |
选取当前节点的所有子元素 |
xpath(//div[@id=’123’]/child::book) |
选择标签为div且id号为123的所有子元素的为book 节点 |
descendant |
选取当前节点的所有后代元素(子、孙等) |
xpath(./descendant::*) |
返回当前节点的所有后代节点(子节点、孙节点) |
following |
选取文档中当前节点结束标签后的所有节点 |
xpath(./following::*) |
选取文档中当前节点结束标签后的所有节点 |
parent |
选取当前节点的父节点 |
xpath(./parent::*) |
选取当前节点的父节点 |
preceding |
选取文档中当前节点的开始标签之前的所有节点 |
xpath(//div[@id=’123’]/preceding::*) |
选择标签为div且id号为123的开始标签之前的所有节点 |
preceding-sibling |
选取当前节点之前的所有同级节点 |
xpath(//div[@id=’123’]/preceding-sibling::*) |
选择标签为div且id号为123的之前的所有同级节点 |
self |
选取当前节点 |
xpath(./self::*) |
选取当前节点 |
六.xpath 运算符
表达式 |
描述 |
用法 |
说明 |
加法 |
6 4 |
10 |
|
- |
减法 |
6 - 4 |
2 |
* |
乘法 |
6 * 4 |
24 |
div |
除法 |
8 div 4 |
2 |
= |
等于 |
price=9.80 |
如果 price 是 9.80,则返回 true。 如果 price 是 9.90,则返回 false。 |
!= |
不等于 |
price!=9.80 |
如果 price 是 9.90,则返回 true。 如果 price 是 9.80,则返回 false。 |
< |
小于 |
price<9.80 |
如果 price 是 9.00,则返回 true。 如果 price 是 9.90,则返回 false。 |
<= |
小于或等于 |
price<=9.80 |
如果 price 是 9.00,则返回 true。 如果 price 是 9.90,则返回 false。 |
> |
大于 |
price>9.80 |
如果 price 是 9.90,则返回 true。 如果 price 是 9.80,则返回 false。 |
>= |
大于或等于 |
price>=9.80 |
如果 price 是 9.90,则返回 true。 如果 price 是 9.70,则返回 false。 |
or |
或 |
price=9.80 or price=9.70 |
如果 price 是 9.80,则返回 true。 如果 price 是 9.50,则返回 false。 |
and |
与 |
price>9.00 and price<9.90 |
如果 price 是 9.80,则返回 true。 如果 price 是 8.50,则返回 false。 |
mod |
计算除法的余数 |
5 mod 2 |
1 |
七.常用的功能函数
使用功能函数能够更好的进行模糊搜索
表达式 |
描述 |
用法 |
说明 |
starts-with |
选取id值以ma开头的div节点 |
xpath(‘//div[starts-with(@id,”ma”)]‘) |
选取id值以ma开头的div节点 |
contains |
选取id值包含ma的div节点 |
xpath(‘//div[contains(@id,”ma”)]‘) |
选取id值包含ma的div节点 |
and |
选取id值包含ma和in的div节点 |
xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘) |
选取id值包含ma和in的div节点 |
text() |
选取节点文本包含ma的div节点 |
xpath(‘//div[contains(text(),”ma”)]‘) |
选取节点文本包含ma的div节点 |