带有请求和lxml的xpath报废,但是有问题

时间:2018-08-01 15:37:10

标签: python python-requests lxml scrape

当我使用xpath使用lxml抓取数据时,我一直遇到问题。我想刮一下道琼斯工业平均价格,但是当我用python打印出来时,它说元素跨度为0x448d6c0。我知道那一定是一块记忆,但是我只想要价格。如何打印价格而不是价格在内存中的位置?

from lxml import html
import requests

page = requests.get('https://markets.businessinsider.com/index/realtime- 
chart/dow_jones')
content = html.fromstring(page.content)

#This will create a list of prices:
prices = content.xpath('//*[@id="site"]/div/div[3]/div/div[3]/div[2]/div/table/tbody/tr[1]/th[1]/div/div/div/span')

#This will create a list of volume:


print (prices)

2 个答案:

答案 0 :(得分:2)

您正在获得生成器,正如您所说的那样,它们只是内存位置。要访问它们,您需要在它们上调用一个函数,在这种情况下,您需要文本为.text

此外,我会强烈建议更改您的XPath,因为它是字面位置,并且可能会发生变化。

prices = content.xpath("//div[@id='site']//div[@class='price']//span[@class='push-data ']")
prices_holder = [i.text for i in prices]
prices_holder
 ['25,389.06',
 '25,374.60',
 '7,251.60',
 '2,813.60',
 '22,674.50',
 '12,738.80',
 '3,500.58',
 '1.1669',
 '111.7250',
 '1.3119',
 '1,219.58',
 '15.43',
 '6,162.55',
 '67.55']

还要注意,您只会在加载时获得。如果您希望价格随价格变化而变化,则可能需要使用硒。

答案 1 :(得分:1)

变量prices是一个包含Web元素的列表。您需要调用text方法来提取值。

print(prices[0].text)

'25,396.03'