使用美丽汤和python中的请求时出现网页抓取错误

时间:2020-06-16 13:34:46

标签: python beautifulsoup python-requests html-parser

我正在尝试编写用于跟踪商品的亚马逊价格的代码。该代码如下

import requests
from bs4 import BeautifulSoup
url='https://www.amazon.com/LunaJany-Womens-Striped-Office-Career/dp/B01DPLT4AC/ref=sxin_7_ac_d_rm?ac_md=2-2-ZHJlc3NlcyBmb3Igd29tZW4gd29yayBjYXN1YWw%3D-ac_d_rm&crid=1POYCFAFYAR8B&cv_ct_cx=dresses+for+women+casual+summer&dchild=1&keywords=dresses+for+women+casual+summer&pd_rd_i=B01DPLT4AC&pd_rd_r=0b613dda-1077-46d2-b403-af7e15840645&pd_rd_w=7Mp2P&pd_rd_wg=rNofK&pf_rd_p=a0516f22-66df-4efd-8b9a-279a864d1512&pf_rd_r=1P30PXW75XA27N3M6VDK&psc=1&qid=1592310609&sprefix=dre%2Caps%2C440&sr=1-3-12d4272d-8adb-4121-8624-135149aa9081'
        header={"user-agent":'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.97 Safari/537.36'}
        page=requests.get(url,headers=header)
        soup1=BeautifulSoup(page.content,"html.parser")
        soup2=BeautifulSoup(soup1.prettify(),"html.parser")
        title=soup2.find(id="productTitle").get_text()
        print(title)

在尝试打印标题时,出现错误

Traceback (most recent call last):
  File "C:/Users/Patterns/PycharmProjects/RUBI/Tracks amozon prices.py", line 8, in <module>
    title=soup2.find(id="productTitle").getText()
AttributeError: 'NoneType' object has no attribute 'getText'

有人可以帮我吗?

2 个答案:

答案 0 :(得分:1)

它说NoneType没有属性"get_text",这意味着没有找到ID为"productTitle"的匹配元素,因此返回NoneNoneNoneType对象,因此没有"get_text"属性。

提示-尝试调整productTitle。我不确定,但这可能不是您要跟踪其价格的价格要素。

答案 1 :(得分:1)

这是因为没有像 productTitle 这样的元素。当您使用beautifull汤加载页面内容时,会加载一个机器人检查页面。 像这个。 Robot Check

只需尝试通过-=TEXTJOIN(CHAR(10),TRUE,UNIQUE(FILTERXML("<a><b>"&SUBSTITUTE(A1,CHAR(10),"</b><b>")&"</b></a>","//b"))) 打印页面内容,您将了解错误原因。