Question

我正在尝试从 this URL 获取产品价格和名称。

当我检查 HTML 元素时，产品的价格位于 span 标签下，类名 c13VH6。

但是，我得到一个空字符串。

下面是我的代码。

import requests

from bs4 import BeautifulSoup

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) 
AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}


html_text=requests.get('https://www.daraz.com.np/televisions/? 
spm=a2a0e.11779170.cate_3.1.287d2d2bmERvcc',headers=headers).text

soup=BeautifulSoup(html_text, 'lxml')
#soup = BeautifulSoup(html_text, 'html5lib')

string1=soup.find('span',class_='c13VH6')
print(soup.find('span', class_='c13VH6'))
print(string1)

Answer 1

该网站是动态加载的，因此 requests 模块将不支持它。但是，数据以JSON格式嵌入网站，您可以使用内置的re（regex）模块查找数据，并将其转换为Python字典（dict)并访问{ {1}}/key 使用内置的 json 模块。

例如，打印所有产品名称和价格：

value

输出：

import json
import re
import requests
from bs4 import BeautifulSoup


headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3"
}
url = "https://www.daraz.com.np/televisions/?spm=a2a0e.11779170.cate_3.1.287d2d2bmERvcc"
soup = BeautifulSoup(requests.get(url, headers=headers).content, "lxml")

json_data = json.loads(re.search("window\.pageData=({.*})", str(soup)).group(1))

# To view all the JSON data:
# print(json.dumps(json_data, indent=3))

for data in json_data["mods"]["listItems"]:
    print(data["name"])
    print(data["priceShow"].split()[1])
    print("-" * 80)

从span标签获取文本时返回空列表（网络抓取）

1 个答案: