尝试使用BeautifulSoup查找div时,Webscraping不返回任何内容

时间:2019-09-14 06:17:04

标签: python html beautifulsoup

我正在尝试建立一个程序,该程序将在从香港到新德里到大阪的“最佳”航班价格下跌时通知我。我将Skyscanner的搜索结果页面作为程序的基础。

import requests
from bs4 import BeautifulSoup

URL = 'https://www.skyscanner.com.hk/transport/d/hkga/2019-12-28/del/del/2020-01-05/osaa?adults=1&children=0&adultsv2=1&childrenv2=&infants=0&cabinclass=economy&ref=home&locale=en-GB#/'

page = requests.get(URL)

soup = BeautifulSoup(page.content, 'html.parser')
pricebox = soup.find('div', class_= 'Price_mainPriceContainer__1dqsw')
price = pricebox.find('span', class_= 'BpkText_bpk-text__2NHsO BpkText_bpk-text--base__2vfTl BpkText_bpk-text--bold__4yauk').text

好吧,我想找到第一个包含跨度的div,该跨度中包含“最佳航班”的价格,因此我使用find()方法查找具有类属性“ Price_mainPriceContainer__1dqsw”的div。但是,它什么也没返回。我不知道出了什么问题。

编辑:首先,感谢您的所有帮助。真的很感激。如果您还没有意识到,我是一个超级初学者。无论如何,我安装了ChromeDriver和Selenium,并尝试运行@QHarr提供的代码,并返回了这样的错误

Traceback (most recent call last):
  File "testflight.py", line 6, in <module>
     d = webdriver.Chrome(r'/usr/local/bin/chromedriver')
  File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/selenium/webdriver/chrome/webdriver.py", line 81, in __init__
desired_capabilities=desired_capabilities)
  File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/selenium/webdriver/remote/webdriver.py", line 157, in __init__
self.start_session(capabilities, browser_profile)
  File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/selenium/webdriver/remote/webdriver.py", line 252, in start_session
response = self.execute(Command.NEW_SESSION, parameters)
  File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/selenium/webdriver/remote/webdriver.py", line 321, in execute
self.error_handler.check_response(response)
  File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/selenium/webdriver/remote/errorhandler.py", line 242, in check_response
raise exception_class(message, screen, stacktrace)
 selenium.common.exceptions.WebDriverException: Message: unknown error: Failed to create a Chrome process.

我不知道为什么会这样。我已经将ChromeDriver重定位到/ usr / local / bin,安装了与我的Google Chrome版本相对应的ChromeDriver,并使用正确的默认路径安装了Google Chrome。

1 个答案:

答案 0 :(得分:1)

由于该页面正在向各个合作伙伴发出请求以寻求最佳价格,因此会有很多流量,并且可能没有一个可以始终以最佳价格解决的xhr(未经测试的理论)。我可能会选择硒,并等待所有结果显示在页面上,然后提取最佳价格

"onFileChange"