无法通过xpath或css选择器提取数据

时间:2017-08-22 08:52:26

标签: xpath scrapy-spider

当我检查元素或查看源时,页面上提供了所需的数据,但是当我使用xpath或css提取它们时,我得到一个空列表。甚至我试图提取所有节点及其内容,但是查看页面源中显示的所需数据未被提取。可能是什么原因? 以下是示例代码: 我需要从标签中提取href值。

<div class="url-link">
    <a data-id="abc" class="abc xyz" data-is-avod="" href="/ab/extract/xyz/3&t=25">Title</a>
    <span>title</span>
</div>

我使用了response.xpath('//div/a/@href').extract() xpath,但我无法提取所需的内容。

我已经分析并发现当我登录网站时,只检查元素或查看页面来源显示此<a>标记,否则它不会显示。所以我想要获取#href文本我需要传递带有登录信息的表单,但我不知道如何传递表单以及如何获取表单的详细信息。

请帮忙。

0 个答案:

没有答案