Question

我有一个web page酒店，我希望得到所有的酒店名称。我按照this page的指示编写了代码，但没有成功。我的代码在这里：

from lxml import html
import requests

page = requests.get('web page url')
tree = html.fromstring(page.content)

hotel_name = tree.xpath('//span[@title="sr-hotel__name"]/text()')

print(hotel_name)

我得到的只是一个空列表。有什么帮助吗？

Answer 1

您需要添加用户代理：

from lxml import html
import requests
headers= {"User-Agent":"Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.82 Safari/537.36"}
page = requests.get('http://www.booking.com/searchresults.et.html?label=gen173nr-1FCAEoggJCAlhYSDNiBW5vcmVmaEKIAQGYAQu4AQbIAQzYAQHoAQH4AQuoAgM&sid=1bc09296ee139ec3cb0edce87d7fb20a&dcid=1&class_interval=1&dest_id=67&dest_type=country&dtdisc=0&group_adults=2&group_children=0&hlrd=0&hyb_red=0&inac=0&label_click=undef&nha_red=0&no_rooms=1&postcard=0&redirected_from_city=0&redirected_from_landmark=0&redirected_from_region=0&review_score_group=empty&room1=A%2CA&sb_price_type=total&score_min=0&src=index&ss=Eesti&ss_all=0&ss_raw=Eesti&ssb=empty&sshis=0&traveller=other&nflt=ht_id%3D204%3B&lsf=ht_id%7C204%7C221&unchecked_filter=hoteltype'
                    , headers=headers)
tree = html.fromstring(page.content)
print(page.text)
hotel_name = tree.xpath('//span[@class="sr-hotel__name"]/text()')

print(hotel_name)

哪个会给你：

['\nHotel Telegraaf\n', '\nRadisson Blu Hotel Olümpia\n', '\nRadisson Blu Sky Hotel\n', '\nPark Inn by Radisson Central Tallinn\n', '\nPark Inn by Radisson Meriton Conference & Spa Hotel Tallinn\n', '\nMerchants House Hotel\n', '\nSwissotel Tallinn\n', '\nMy City Hotel\n', '\nNordic Hotel Forum\n', '\nHotel Palace by TallinnHotels\n', '\nHotel Ülemiste\n', '\nTallink City Hotel\n', '\nHotel London by Tartuhotels\n', '\nJohan Design & SPA Hotel\n', '\nThe von Stackelberg Hotel Tallinn\n']

但你应该阅读他们的TOS：

我们的服务仅用于个人和非商业用途。因此，您不得通过商业广告的内容，信息，软件，产品或服务在我们的网站上获取或竞争转售链接（深层链接）以使用，复制，监控（例如，蜘蛛，刮擦）），显示，下载下载或复制。

Answer 2

您检索空列表是因为html是由JavaScript生成的。

所以要进行一些路线图：

使用谷歌检查XHR;
确定参数＆amp;标题执行javascript
传递parameters
传递enter link description here
并将它组合成：requests.get（url，params = payload，header = header）

很遗憾，您应该考虑尊重网站所有者规则和robots.txt。

除了“Arbaz Siddiqui：还有更完整的包装，如美丽的汤或scrapy硒。

使用lxml和请求进行Web抓取

2 个答案: