使用BeautifulSoup按id解析

时间:2015-11-03 20:13:01

标签: python html beautifulsoup html-parsing

在BeautifulSoup中,版本为bs4文档http://www.crummy.com/software/BeautifulSoup/bs4/doc/

列出了一个HTML文档:

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

我们经常使用,例如,提取所有链接。

for link in soup.find_all('a'):
    print(link.get('href'))

输出

http://example.com/elsie
http://example.com/lacie
http://example.com/tillie

在HTML文档本身中,这些链接列在&#34;姐妹&#34;并使用id标记,

<a class="sister" href="http://example.com/elsie" id="link1">
<a class="sister" href="http://example.com/lacie" id="link2">
<a class="sister" href="http://example.com/tillie" id="link3">

在实际网站中,我注意到这些id标记通常是数字列表,例如id="1"。有没有办法单独使用id标签解析HTML文档?这样做的首选方法是什么?

首先,您可以获得班级中的所有标签&#34;姐妹&#34;,即

soup.find_all(class_="sister")

然后呢?

1 个答案:

答案 0 :(得分:1)

如果您要使用find_all()解决问题,可以使用正则表达式或函数

soup.find_all("a", id=re.compile(r"^link\d+$")  # id starts with 'link' followed by one or more digits at the end of the value
soup.find_all("a", id=lambda value: value and value.startswith("link"))  # id starts with 'link'

或者,您可以使用 CSS Selector

来处理它
soup.select("a[id^=link]")  # id starts with 'link'