Question

我正试图从网站上搜索一些营养数据，到目前为止，一切似乎都在游动，直到我遇到格式略有不同的页面。

使用selenium和这样的一行，返回一个空列表：

values = browser.find_elements_by_class_name('size-12-fl-oz' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value')

print会返回：

[]
[]
[]
[]
[]

但如果我定义元素位置，那么它可以正常工作：

kcal = data.find_elements_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text

我遇到的问题是，当迭代时，页面之间的元素不同。因此，如果位置9中不存在div，则会引发错误。

现在当我回去尝试编辑我的代码以执行try/catch时，我得到了：

AttributeError：'list'对象没有属性'find_element_by_xpath'

或

AttributeError：'list'对象没有属性'find_elements_by_xpath'

以下是代码，我来回测试的注释区域。

import requests, bs4, urllib2, csv
from bs4 import BeautifulSoup
from selenium import webdriver
from selenium.webdriver.support.ui import Select
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.common.exceptions import NoSuchElementException    

browser = webdriver.Firefox()
...

#Loop on URLs to get Nutritional Information from each one.
with open('products.txt') as f:
    for line in f:
        url = line
#        url = 'http://www.tapintoyourbeer.com/index.cfm?id=3'
        browser.get(url)
        with open("output.csv", "a") as o:
            writeFile = csv.writer(o)
            browser.implicitly_wait(3)
            product_name = browser.find_element_by_tag_name('h1').text.title() #Get product name
            size = browser.find_element_by_xpath("(//div[@class='dotted-tab'])").text #Get product size
            data = browser.find_elements_by_xpath("//table[@class='beer-data-table']")
#            values=[]
#            values = browser.find_elements_by_class_name('size-12-fl-oz' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value')
            try:
#            values = data.find_elements_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])")
                kcal = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text
                kj = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=3]").text
                fat = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=5]").text
                carbs = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=7]").text
                protein = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=9]").text
                values = [kcal, kj, fat, carbs, protein]
                print values
                writeFile.writerow([product_name] + [size] + values)
            except NoSuchElementException:
                print("No Protein listed")
browser.quit()

我让它早先工作以生成一个列表，并输出到CSV，但有时，位置计数会出错。

[u'Budweiser', u'12 FL OZ', u'145.00', u'', u'', u'', u'']
[u"Beck'S", u'12 FL OZ', u'146.00', u'610.86', u'0.00', u'10.40', u'1.80']
[u'Bud Light', u'12 FL OZ', u'110.00', u'460.24', u'0.00', u'6.60', u'0.90']
[u'Michelob Ultra', u'12 FL OZ', u'95.00', u'397.48', u'0.00', u'2.60', u'0.60']
[u'Stella Artois', u'100 ML', u'43.30', u'KCAL/100 ML', u'181.17', u'KJ/100 ML', u'0.00']

当特定页面上不存在位置9时，问题就开始了。

对于如何解决这种头痛有什么建议吗？我是否需要为不同的页面设置案例＆amp;大小？

我很感激帮助。

Answer 1

实际上find_elements()会返回WebElement列表或空列表。您将此结果存储到列表变量名称data。

AttributeError：'list'对象没有属性'find_element_by_xpath'

AttributeError：'list'对象没有属性'find_elements_by_xpath'

之所以会出现这种情况，是因为您要在data列表中找到嵌套的WebElement，这就是为什么您正在调用data.find_element_by_xpath()或data.find_elements_by_xpath()这是绝对错误的原因

实际上，find_element()或find_elements()用于搜索页面上下文上的元素或WebElement 的上下文list。

因此，您应该尝试从data列表中找到单个WebElement，然后使用此元素上下文查找更多嵌套WebElement，如下所示： -

if len(data) > 0: #now find desire element using index individual_element = data[0] #now you can find further nested single element using find_element() or list of elements using find_elements() at individual_element context kcal = individual_element.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text ---------------------------- ----------------------------

Selenium AttributeError：list对象没有属性find_element_by_xpath

1 个答案: