我正试图通过使用以下网址打开URL,来使用BeautifulSoup4这个网站https://www.timeanddate.com/weather/抓取天气数据:
quote_page=r"https://www.timeanddate.com/weather/%s/%s/ext" %(country, place)
我仍然对网络抓取方法和BS4
还是陌生的,我可以在页面的源中找到所需的信息(例如,在此搜索中,我们将国家(地区)设为印度,将城市设为孟买)如:https://www.timeanddate.com/weather/india/mumbai/ext
如果您看到页面的来源,就不难使用CTRL+F
并找到诸如“湿度”,“露点”和天气当前状态之类的信息的属性(如果天气晴朗,下雨,等),阻止我获取这些数据的唯一原因是我对BS4
的了解。
您是否可以检查页面源并编写BS4
方法以获取诸如
“感觉:”,“可见性”,“露点”,“湿度”,“风”和“预测”?
注意:在必须获取<tag class="someclass">value</tag>
之类的HTML标记中的值之前,我已经进行了数据抓取练习。
使用
`
a=BeautifulSoup.find(tag, attrs={'class':'someclass'})
a=a.text.strip()`
答案 0 :(得分:2)
您可以熟悉CSS选择器
import requests
from bs4 import BeautifulSoup as bs
country = 'india'
place = 'mumbai'
headers = {'User-Agent' : 'Mozilla/5.0',
'Host' : 'www.timeanddate.com'}
quote_page= 'https://www.timeanddate.com/weather/{0}/{1}'.format(country, place)
res = requests.get(quote_page)
soup = bs(res.content, 'lxml')
firstItem = soup.select_one('#qlook p:nth-of-type(2)')
strings = [string for string in firstItem.stripped_strings]
feelsLike = strings[0]
print(feelsLike)
quickFacts = [item.text for item in soup.select('#qfacts p')]
for fact in quickFacts:
print(fact)
第一个选择器#qlook p:nth-of-type(2)
使用id selector指定父项,然后使用:nth-of-type CSS pseudo-class选择其中的第二个段落类型元素(p标签)。
该选择器匹配:
我使用stripped_strings
分隔各行并按索引访问所需的信息。
第二个选择器#qfacts p
将id selector用于父元素,然后将descendant combinator与p
type selector一起使用以指定子p标签元素。该组合符合以下条件:
quickFacts
代表这些匹配项的列表。您可以按索引访问项目。