Python BeautifulSoup 网页抓取返回无

时间:2021-01-13 19:02:13

标签: python web-scraping beautifulsoup

from bs4 import BeautifulSoup
import requests

url = 'https://www.facilitron.com/searchfacility/u:facilitron/lat:37.8271784/lng:-122.2913078/dist:20/activities:-1/types:-1/namelike:grass%20field'

source = requests.get(url)
soup = BeautifulSoup(source.content, 'lxml')

find = soup.find('div', class_="search-results-body")
print(find)

我正在尝试获取提供网站的 img、标题和位置,但是当我尝试使用“search-results-body”类查找 div 时,BeautifulSoup 无法获取 div 中的元素这个 div 中的类,它不返回任何内容。

3 个答案:

答案 0 :(得分:1)

尝试将您的解析器更改为此

soup = BeautifulSoup(source.content, 'html.parser')

答案 1 :(得分:1)

您要查找的内容是高度动态的,并且不存在于页面源中 (Ctrl + U)。但是,使用适当的参数发出 post http 请求,您可以从一些 json 响应中获取它们。我只解析了每个潜在客户的名称和地址。您可以从回复中找到许多与每个潜在客户相关的其他信息。

Angular 2

答案 2 :(得分:0)

试试这个,

find = soup.find('div', {'class': 'clearfix'})