有没有办法将BeautifulSoup与诸如Facebook之类的自扩展页面一起使用?

时间:2018-08-24 15:23:06

标签: python ajax beautifulsoup screen-scraping

某些网页可能会通过ajax扩展自身,当您接近底部时,Facebook是一个著名的例子。我对筛选Filmstruck的电影列表页面特别感兴趣。它确实有尽头,但是您可以看到它在向下滚动时添加了电影。有没有一种方法可以使用BeautifulSoup来获取页面上的所有内容?

https://www.filmstruck.com/us/watch/browse-all/

1 个答案:

答案 0 :(得分:0)

没有BeautifulSouprequestsurllib通常不能在静态网页中使用,这与Facebook每次都加载新数据的Facebook不同。如果您要抓取Facebook之类的动态网站,最好使用selenium之类的工具加载页面,然后使用BeautifulSoup或直接通过selenium

访问