如何使用Selenium Python保存特定页面的驱动程序,直到特定的下拉菜单列表保存和整个列表请求?

时间:2017-02-05 02:22:54

标签: python selenium exception web-crawler

我为此页面(http://www.bobaedream.co.kr/cyber/CyberCar.php?gubun=I)制作了一个抓取工具,以收集特定制造商的库存清单。我的代码从选择搜索菜单第一行的下拉菜单开始。

enter image description here

每个右下拉菜单都是其左下拉菜单的子菜单。我想要做的是在每个下拉菜单中选择每个第一项,然后单击第一次运行的“搜索”按钮。在抓取其库存清单后,我设置了最后一个下拉菜单的第二项,然后单击“搜索”按钮。 (如果最后一个下拉菜单中只有一个项目,那么从最后一个上升到第二个下拉菜单,然后选择其中的第二个项目。)

但问题是在这里发生的。我将每个下拉菜单的每个项目保存为元组。当我尝试调用第二轮爬行的最后一个下拉菜单的第二项时,发生“StaleElementReferenceException”或“NoSuchElementException”,并显示消息“元素不再附加到DOM”。因此,我想制作驱动器,直到每个下拉菜单迭代完成。

以下是我的代码,但仍然有错误消息。我的错误通常发生在第二个while循环中。此时,我添加了一些“等待”功能和“刷新”功能。有时它可以帮助摆脱我的代码中的while循环,但通常它会陷入while循环和无限重复。我猜第二个“try”函数中的某些类型的“wait.until(EC。〜)”代码可以解决这个问题,但我对此没有具体的想法。请帮忙或给我任何建议。

def option2_menu_loaded(inDriver):
    path = '//select[@id="level2_no"]'
    return inDriver.find_element_by_xpath(path)

self.wait.until(option2_menu_loaded)

while True:
    try:
        select_option2_values = [
            ('%s' % o.get_attribute('text'), '%s' % o.get_attribute('value'))
            for o
            in Select(self.driver.find_element_by_css_selector("#level2_no")).options
            if o.get_attribute('text') != '세부등급']
    except (StaleElementReferenceException, NoSuchElementException):
        print("=======Exception Found - Option2 Save=====")
        self.driver.refresh()
        self.driver.implicitly_wait(1.5)
        continue
    break

for option2 in select_option2_values:
    self.csv.setCarTitle(ma, mo, de, option1[0], option2[0])

    print(option2[0], option2[1])
    self.driver.implicitly_wait(0.5)

    while True:
        try:
            Select(self.driver.find_element_by_css_selector("#level2_no")).select_by_value(option2[1])

        except (StaleElementReferenceException, NoSuchElementException):
            print("=======Exception Found - Option2 Request=====")
            self.driver.refresh()
            self.driver.implicitly_wait(1.5)
            self.driver.refresh()
            continue
        break

1 个答案:

答案 0 :(得分:0)

这意味着行李在查找元素和使用元素对象之间重新加载,确保首先加载页面并在每次需要使用时搜索元素。

额外的检查是在进行选择之前为元素添加额外的等待,因为age = int(raw_input("Age: ")) 将不会等待元素可用。

序列应为:页面加载>等到元素存在>对元素使用动作