为html表提取lxml xpath

时间:2011-04-07 19:10:46

标签: python html xpath html-table lxml

我有一个类似于以下的HTML文档:

<html xmlns="http://www.w3.org/1999/xhtml" xmlns="http://www.w3.org/1999/xhtml">
    <div id="Symbols" class="cb">
    <table class="quotes">
    <tr><th>Code</th><th>Name</th>
        <th style="text-align:right;">High</th>
        <th style="text-align:right;">Low</th>
    </tr>
    <tr class="ro" onclick="location.href='/xyz.com/A.htm';" style="color:red;">
        <td><a href="/xyz.com/A.htm" title="Display,A">A</a></td>
        <td>A Inc.</td>
        <td align="right">45.44</td>
        <td align="right">44.26</td>
    <tr class="re" onclick="location.href='/xyz.com/B.htm';" style="color:red;">
        <td><a href="/xyz.com/B.htm" title="Display,B">B</a></td>
        <td>B Inc.</td>
        <td align="right">18.29</td>
        <td align="right">17.92</td>
</div></html>

我需要从表中提取code/name/high/low信息。

我使用了Stack Over Flow中的一个类似示例中的以下代码:

#############################
import urllib2
from lxml import html, etree

webpg = urllib2.urlopen(http://www.eoddata.com/stocklist/NYSE/A.htm).read()
table = html.fromstring(webpg)

for row in table.xpath('//table[@class="quotes"]/tbody/tr'):
    for column in row.xpath('./th[position()>0]/text() | ./td[position()=1]/a/text() | ./td[position()>1]/text()'):
        print column.strip(),
    print

#############################

我没有得到任何输出。我必须将第一个循环xpath从table.xpath('//tr')

更改为table.xpath('//table[@class="quotes"]/tbody/tr')

我只是不明白为什么xpath('//table[@class="quotes"]/tbody/tr')不起作用。

1 个答案:

答案 0 :(得分:39)

您可能正在查看Firebug中的HTML,对吗?当文档中不存在隐式标记<tbody>时,浏览器将插入该标记。 lxml库只处理原始HTML字符串中的标记。

忽略XPath中的 tbody 级别。例如,这有效:

tree = lxml.html.fromstring(raw_html)
tree.xpath('//table[@class="quotes"]/tr')
[<Element tr at 1014206d0>, <Element tr at 101420738>, <Element tr at 1014207a0>]