我正在研究Scrapy蜘蛛,其中xpath用于提取所需的信息。源页面首先使用网站的搜索功能生成。例如,我的兴趣是在标题中获得带有“计算机”的项目。在源页面上,由于搜索过程,所有“计算机”都是粗体。并且“计算机”可能位于标题的开头,中间或末尾。有些项目标题中没有“计算机”。请参阅以下示例:
Example 1: ("computer" at the beginning)
<a class="title" href="whatever1">
<strong> Computer </strong>
, used
</a>
Example 2: ("computer" in the middle)
<a class="title" href="whatever2">
Low price
<strong> computer </strong>
, great deal
</a>
Example 3: ("computer" at the end)
<a class="title" href="whatever3">
Don't miss this
<strong> Computer </strong>
</a>
Example 4: (no keyword of "computer")
<a class="title" href="whatever4">
Best laptop deal ever!
</a>
我尝试过的xpath代码.//a[@class="title"]/text()
只生成 AFTER strong
元素的部分。对于上面的4个例子,我将得到以下结果:
Example 1:
, used
Example 2:
, great deal
Example 3: (Nothing)
Example 4:
Best laptop deal ever!
我需要一个xpath代码来涵盖所有这四种情况并收集每个项目的完整标题。
答案 0 :(得分:4)
最简单的方法是搜索所有“文本”节点并“加入”它们:
"".join(response.xpath('.//a[@class="title"]//text()').extract())
请注意text()
之前的双斜线,这是此处的关键修复。