网页爬行链接表

时间:2016-08-02 15:37:15

标签: python selenium web-crawler

我在python中创建一个脚本,该脚本通过一个包含三列的表。我创建了一个列表,其中第一列中的每个链接都插入到列表中。然后我循环。循环时,我单击链接,打印一个语句以确保它实际上单击了链接,然后转到上一页,以便可以单击下一个链接。我一直得到的错误是我的循环首先通过前两个链接,然后当循环第三次调用链接[page] .click()时我得到一个StaleElementReferenceException。我无法发布HTML,因为该网站是保密的。

    from selenium import webdriver
    from selenium.webdriver.common.keys import Keys
    from selenium.webdriver.common.by import By
    from selenium.webdriver.support.ui import Select
    import traceback


    # starting chrome browser
    chrome_path = r"C:\Users\guaddavi\Downloads\chromedriver_win32    extract\chromedriver.exe"
    browser = webdriver.Chrome(chrome_path)


    #linking to page
    browser.get('link to page with table ')


    #find table of ETL Extracts
    table_id = browser.find_element_by_id('sortable_table_id_0')
    #print('found table')

    #get all the rows of the table containing the links
    rows = table_id.find_elements_by_tag_name('tr')

    #remove the first row that has the header
    del rows[0]
    current = 0
    links = [] * len(rows)

    for row in rows:
     col = row.find_elements_by_tag_name('td')[0]
     links.append(col)
     current +=1

    page = 0
    while(page <= len(rows)):
        links[page].click()
        print('clicked link' + "  " + str(page))
        page += 1
        browser.back()     

1 个答案:

答案 0 :(得分:1)

我不确定您是否已经看过官方的Selenium文档:

  

在两种情况之一中抛出过时的元素引用异常,第一种情况比第二种情况更常见:   该元素已被完全删除。   该元素不再附加到DOM。

在你的情况下,我认为你有第二个问题。每次单击并返回循环时,DOM都会发生变化。请检查一下。