我第一次使用BeautifulSoup并尝试从汤品中收集多个数据,如电子邮件,电话号码和邮寄地址。
使用正则表达式,我可以识别电子邮件地址。我找到该电子邮件的代码是:
def get_email(link):
mail_list = []
for i in link:
a = str(i)
email_pattern = re.compile("<a\s+href=\"mailto:([a-zA-Z0-9._@]*)\">", re.IGNORECASE)
ik = re.findall(email_pattern, a)
if (len(ik) == 1):
mail_list.append(i)
else:
pass
s_email = str(mail_list[0]).split('<a href="')
t_email = str(s_email[1]).split('">')
print t_email[0]
现在,我还需要收集电话号码,邮寄地址和网址。我认为在BeautifulSoup中必须有一种简单的方法来查找这些特定的数据。
示例html页面如下:
<ul>
<li>
<span>Email:</span>
<a href="mailto:abc@gmail.com">Message Us</a>
</li>
<li>
<span>Website:</span>
<a target="_blank" href="http://www.abcl.com">Visit Our Website</a>
</li>
<li>
<span>Phone:</span>
(123)456-789
</li>
</ul>
使用BeatifulSoup,我正在尝试收集电子邮件,网站和电话的跨度值。
提前致谢。
答案 0 :(得分:4)
你的代码最明显的问题是你将表示链接的对象转回HTML,然后再用正则表达式解析它 - 这首先忽略了使用BeautifulSoup的重点。您可能需要使用正则表达式来处理href
属性的内容,但就是这样。此外,else: pass
是不必要的 - 你可以完全放弃它。
这里有一些代码可以做你想要的东西,并且可能是一个有用的起点:
from BeautifulSoup import BeautifulSoup
import re
# Assuming that html is your input as a string:
soup = BeautifulSoup(html)
all_contacts = []
def mailto_link(e):
'''Return the email address if the element is is a mailto link,
otherwise return None'''
if e.name != 'a':
return None
for key, value in e.attrs:
if key == 'href':
m = re.search('mailto:(.*)',value)
if m:
return m.group(1)
return None
for ul in soup.findAll('ul'):
contact = {}
for li in soup.findAll('li'):
s = li.find('span')
if not (s and s.string):
continue
if s.string == 'Email:':
a = li.find(mailto_link)
if a:
contact['email'] = mailto_link(a)
elif s.string == 'Website:':
a = li.find('a')
if a:
contact['website'] = a['href']
elif s.string == 'Phone:':
contact['phone'] = unicode(s.nextSibling).strip()
all_contacts.append(contact)
print all_contacts
这将为每个找到的联系人生成一个字典列表,在这种情况下只会是:
[{'website': u'http://www.abcl.com', 'phone': u'(123)456-789', 'email': u'abc@gmail.com'}]