lxml.html使用XPath和变量进行解析

时间:2013-04-29 18:36:40

标签: python html parsing web-scraping lxml

我有这个HTML代码段

<div id="dw__toc">
<h3 class="toggle">Table of Contents</h3>
<div>

<ul class="toc">
<li class="level1"><div class="li"><a href="#section">#</a></div>
<ul class="toc">
<li class="level2"><div class="li"><a href="#link1">One</a></div></li>
<li class="level2"><div class="li"><a href="#link2">Two</a></div></li>
<li class="level2"><div class="li"><a href="#link3">Three</a></div></li>

现在我想用lxml.html解析它。最后我想要一个函数,我可以提供一个searchterm(即“one”),函数应该返回

One
#link1

现在我正试图在XPath中获取一个变量。

使用:

import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")

test=html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a/text()='One'")

print test

尝试使用变量。我想用一个变量替换硬编码的'One',我可以在以后返回该函数。

不起作用:

import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")

desiredvars = ['One']
myresultset=((var, html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a[text()='%s']"%(var))[0]) for var in desiredvars)

for each in myresultset: 
        print each

Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "<stdin>", line 1, in <genexpr>
IndexError: list index out of range

这是基于这个答案:https://stackoverflow.com/a/10688235/2320453 知道为什么它不起作用吗?这是做这样的事情的“正确方法”吗?

修改 总结一下: 我想在a-Tags中搜索并从这个属性中获取文本,但我不想要一个完整的列表,而是希望能够使用变量进行搜索。 伪代码:

import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")

searchterm = 'one'

test=html.xpath("...a/text()=searchterm")

print test

预期结果

One
#link1

2 个答案:

答案 0 :(得分:5)

你的第一个例子是炒作,但可能不是你认为的那样:

test=html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a/text()='One'")

返回的是布尔值,如果条件...='One'对于xpath表达式左侧的结果集中的任何节点为真,则该值为true。这就是你在第二个例子中得到错误的原因:True[0]无效。

你probalby希望所有节点都匹配,而'One'为文本。相应的表达式为:

test=html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a[text()='One']")

这将返回一个节点集作为结果,或者如果您只需要将url作为字符串:

test=html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a[text()='One']/@href")
# returns: ['#link1']

答案 1 :(得分:4)

我尝试了mata的回复,但对我来说没有用:

div_name = 'foo'
my_div = x.xpath(".//div[@id=%s]" %div_name)[0]

我在他们的网站http://lxml.de/xpathxslt.html#the-xpath-method上找到了可能存在同样问题的人:

div_name = 'foo'
my_div = x.xpath(".//div[@id=$name]", name=div_name)[0]