硒-响应数据不包含某些元素

时间:2018-09-02 12:36:57

标签: python selenium web-scraping

我正在尝试抓取此页面

https://www.tribeofdumo.com/product-page/gbemi-dress-purple

,尤其是我正在尝试通过访问元素<div class ='option-selection-item'>在下拉菜单中获取尺寸列表。

在执行检查元素时,我可以看到该元素,但是在Selenium的响应数据中,我无法找到该元素。那么如何从大小下拉列表中提取数据?

这是我的代码:

from time import sleep
import re
from scrapy.selector import Selector
from selenium import webdriver

driver = webdriver.Firefox()
driver.get("https://www.tribeofdumo.com/product-page/gbemi-dress-purple")
sleep(10)
driver.switch_to.frame("TPAMultiSection_jc31t3yyiframe")
sleep(10)
html = driver.execute_script("return document.documentElement.outerHTML;")

1 个答案:

答案 0 :(得分:2)

我不确定您是否打算执行以下操作。但是,它会产生下拉菜单中可用的不同大小:

from selenium import webdriver

driver = webdriver.Chrome()
driver.get("https://www.tribeofdumo.com/product-page/gbemi-dress-purple")
driver.switch_to.frame(driver.find_element_by_id("TPAMultiSection_jc31t3yyiframe"))
driver.find_element_by_css_selector(".select2-arrow").click()
for item in driver.find_elements_by_css_selector(".ui-select-container .option-selection-item"):
    print(item.text)

driver.quit()

输出:

S
M
L
XL
2XL