我想为我的刮板找到正确的XPath
。
我想做的事情:削弱玩家的市场价值。
问题:只有在将鼠标移到路径或俱乐部图像上时,市场价值才会显示在HTML
中。.我不清楚。
代码:
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
import time
url = 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259'
driver = webdriver.Chrome()
driver.implicitly_wait(30)
driver.get(url)
time.sleep(5)
actions = ActionChains(driver)
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/div/span')
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/svg/g[5]/g[1]/path[1]')
actions.move_to_element_by_xpath('//*[@id="highcharts-0"]/svg/g[5]/g[2]/image[33]')
actions.perform()
date = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[1]').text
value = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[2]').text
club = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[3]').text
age = driver.find_element_by_xpath('//*[@id="highcharts-0"]/div/span/b[4]').text
print(date, value, club, age)
好的,因此,如果我运行此代码,它将返回错误,因为日期,值,俱乐部和年龄仅在将鼠标悬停在我猜测的路径上时才会显示。
如果我手动将鼠标移到svg
中的俱乐部图像上,它将返回正确的数据。
那么,如何在这里为xpath
找到正确的move_to_element_by_xpath
?
我尝试了很多组合。
答案 0 :(得分:2)
这不是一个干净的解决方案,因为我将javascript对象视为可以转换为有效JSON的对象。我从生成值的脚本标记中提取。 @poke帮助解决了一些编码问题。
import requests
from bs4 import BeautifulSoup as bs
import json
url = 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259'
headers = {'Host' : 'www.transfermarkt.de',
'Referer' : 'https://www.transfermarkt.de/manuel-neuer/marktwertverlauf/spieler/17259',
'User-Agent' : 'Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
res = requests.get(url, headers = headers)
soup = bs(res.content,'lxml')
scripts = soup.select('script[type="text/javascript"]')
script = [script.text for script in scripts if 'CDATA' in script.text]
if len(script) > 0:
s = script[1].split("'series':")[1].split(",'credits'")[0].replace("'",'"')
data = json.loads(s.replace('\\x', '\\u00'))
for item in data[0]['data']:
print('Team: ' + item['verein'])
print('Age: ' + str(item['age']))
print('Date: ' + str(item['datum_mw']))
print('Value' + str(item['y']))
正如@poke向我解释的那样:
“该代码使用\ xAB作为转义序列,其中AB是引用字符的十六进制数。另一个有效的转义序列是\ uABCD,其中ABCD是十六进制数。通常,\ xAB等效于\ u00AB,因为这是制作Unicode代码点的方式,因此您可以从一个转换为另一个。 而且,由于\ uABCD是JSON中的有效转义序列,因此您可以对其进行解析。“
答案 1 :(得分:0)
因此,我可以收集到的是tooltip
从此处的https://www.transfermarkt.de/fc-bayern-munchen/startseite/verein/27
获取数据,因此请从此链接中抓取数据。
因此,该数据不包含任何tooltips
,而您可以在该网页上轻松找到其xpath
。