1.什么是XPath?
xpath是一门在XML和HTML文档中查找信息的语言,可用来在XML和HTML文档中对元素和属性进行遍历,XPath 通过使用路径表达式来选取 XML 文档中的节点或者节点集。这些路径表达式和在常规的电脑文件系统中看到的表达式非常相似。
2.XPath语法
想要学好xpath,首先要搞明白html文档中的节点。
<div>
<ul>
<li class="item-0"><a href="link1.html">first item</a></li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-inactive"><a href="link3.html">third item</a></li>
<li class="item-1"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a> # 注意,此处缺少一个 </li> 闭合标签
</ul>
</div>
以上是在网上随便找的一段html的文本,可以观察得到,div的标签下是ul标签,而ul标签下是li标签,于是发现html的标签是一级一级如树状的。Xpath正是通过这样的方式去寻找。以生活中举例,要确定一个人的位置,首先确定他在中国,然后确定他在某个省份,哪座城市,那个小区,最后找到他。
表达式 | 描述 |
---|---|
Nodename | 选取此节点的所有子节点 bookstore 选取bookstore下所有的子节点 |
/ | 如果是在最前面,代表从根节点选取。否则选择某节点下的某个节点 /bookstore 选取根元素下所有的bookstore节点 |
// | 从全局节点中选择节点,随便在哪个位置 //book 从全局节点中找到所有的book节点 |
@ | 选取某个节点的属性 //book[@price] 选择所有拥有price属性的book节点 |
. | 当前节点 |
Text() | 获取标签中的文本 |
同级标签可以用li[1],li[2],li[3]的方式获取
3.lxml库
简单介绍一下lxml库,接下来会用到它
lxml是一个HTML/XML的解析器,主要的功能是如何解析和提取HTML/XML 数据。
lxml和正则一样,也是用C实现的,是一款高性能的PythonHTML/XML解析器,可以利用之前学习的XPath语法,来快速的定位特定元素以及节点信息。
4.实际案例
随便爬取一个网站,找到找到网站的html文本,如下图
要找到title和href,仔细观察可以得到路径分别是//div[@id="resultList"]/div[@class="el"]/p/span/a/@title
//div[@id="resultList"]/div[@class="el"]/p/span/a/@href
运行如下:
5.总结
Xpath,是在爬虫中常见的提取数据的方式之一,相比于正则,它更加简单一些,便于操作,xpath的难点在于准确的确定数据所在的位置。
END
编 辑 | 王楠岚
责 编 | 王 曦
where2go 团队