Python:如何在需要向下滚动

时间:2018-02-07 07:14:39

标签: python selenium iframe selenium-webdriver webdriver

enter image description here

我使用webdriver登录网站,我发现我想提取的数据是在iframe中。就像上面的图片一样。起初,我使用xpath helper来获取整个数据表。

select_box2 =driver.find_element_by_xpath("//table[@class='k-selectable']/tbody").text
print(select_box2)

但我只能提取7个数据(总数为400)。 每当我手动向下滚动时,我都可以看到另一部分数据,但不能同时完成整个数据。有什么建议吗?

1 个答案:

答案 0 :(得分:0)

最近我做了一个脚本来从Instagram中抓取数据

我需要向下滚动页面以加载更多项目

战略是:

  • 在页面的底部获得一个元素的refence;
  • 滚动页面,直到元素可见;

类似

driver.get(url)

items = driver.find_elements_by_tag_name("li") #get a list of items

q = len(items)
li_text = items[q-1].text.splitlines() #in this case i looking for the penultimate element
li = driver.find_element_by_xpath("//li[contains(.,'"+li_text[1]+"')]") #get the element reference with find_element()

li.location_once_scrolled_into_view #scroll down

source