在svg内的路径中查找XPath

时间:2019-02-14 13:44:58

标签: python html python-3.x xpath web-scraping

我想为我的刮板找到正确的XPath

我想做的事情:削弱玩家的市场价值。

问题:只有在将鼠标移到路径或俱乐部图像上时,市场价值才会显示在HTML中。.我不清楚。

代码:

from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
import time

url = 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259'

driver = webdriver.Chrome()
driver.implicitly_wait(30)
driver.get(url)
time.sleep(5)

actions = ActionChains(driver)
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/div/span')
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/svg/g[5]/g[1]/path[1]')
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/svg/g[5]/g[2]/image[33]')
actions.perform()

date = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[1]').text
value = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[2]').text
club = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[3]').text
age = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[4]').text

print(date, value, club, age)

好的,因此,如果我运行此代码,它将返回错误,因为日期,值,俱乐部和年龄仅在将鼠标悬停在我猜测的路径上时才会显示。

如果我手动将鼠标移到svg中的俱乐部图像上,它将返回正确的数据。

那么,如何在这里为xpath找到正确的move_to_element_by_xpath

我尝试了很多组合。

2 个答案:

答案 0 :(得分:2)

这不是一个干净的解决方案,因为我将javascript对象视为可以转换为有效JSON的对象。我从生成值的脚本标记中提取。 @poke帮助解决了一些编码问题。

import requests
from bs4 import BeautifulSoup as bs
import json

url = 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259'
headers = {'Host' : 'www.transfermarkt.de',
'Referer' : 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259',
'User-Agent' : 'Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
res = requests.get(url, headers = headers)
soup = bs(res.content,'lxml')
scripts = soup.select('script[type="text/javascript"]')
script = [script.text for script in scripts if 'CDATA' in script.text]


if len(script) > 0:
    s = script[1].split("'series':")[1].split(",'credits'")[0].replace("'",'"')
    data = json.loads(s.replace('\\x', '\\u00'))
    for item in data[0]['data']:
        print('Team: ' + item['verein'])
        print('Age: ' + str(item['age']))
        print('Date: ' + str(item['datum_mw']))
        print('Value' + str(item['y']))

正如@poke向我解释的那样:

“该代码使用\ xAB作为转义序列,其中AB是引用字符的十六进制数。另一个有效的转义序列是\ uABCD,其中ABCD是十六进制数。通常,\ xAB等效于\ u00AB,因为这是制作Unicode代码点的方式,因此您可以从一个转换为另一个。 而且,由于\ uABCD是JSON中的有效转义序列,因此您可以对其进行解析。“

答案 1 :(得分:0)

因此,我可以收集到的是tooltip从此处的https://www.transfermarkt.de/fc-bayern-munchen/startseite/verein/27获取数据,因此请从此链接中抓取数据。

因此,该数据不包含任何tooltips,而您可以在该网页上轻松找到其xpath