我正在尝试从此链接中抓取数据 https://www.seloger.com/ 而我得到了这个错误,我不明白是怎么回事,因为我之前已经尝试过此代码并且可以正常工作
import re
import requests
import csv
import json
with open("selog.csv", "w", newline="") as f:
writer = csv.writer(f)
writer.writerow(["id", "Type", "Prix", "Code_postal", "Ville", "Departement", "Nombre_pieces", "Nbr_chambres", "Type_cuisine", "Surface"])
for i in range(1, 500):
url = str('https://www.seloger.com/list.htm?tri=initial&idtypebien=1,2&pxMax=3000000&div=2238&idtt=2,5&naturebien=1,2,4&LISTING-LISTpg=' + str(i))
r = requests.get(url, headers = {'User-Agent' : 'Mozilla/5.0'})
p = re.compile('var ava_data =(.*);\r\n\s+ava_data\.logged = logged;', re.DOTALL)
x = p.findall(r.text)[0].strip().replace('\r\n ','').replace('\xa0',' ').replace('\\','\\\\')
x = re.sub(r'\s{2,}|\\r\\n', '', x)
data = json.loads(x)
f = csv.writer(open("Seloger.csv", "wb+"))
for product in data['products']:
ID = product['idannonce']
prix = product['prix']
surface = product['surface']
code_postal = product['codepostal']
nombre_pieces = product['nb_pieces']
nbr_chambres = product['nb_chambres']
Type = product['typedebien']
type_cuisine = product['idtypecuisine']
ville = product['ville']
departement = product['departement']
etage = product['etage']
writer.writerow([ID, Type, prix, code_postal, ville, departement, nombre_pieces, nbr_chambres, type_cuisine, surface])
此错误:
Traceback (most recent call last):
File "Seloger.py", line 20, in <module>
x = p.findall(r.text)[0].strip().replace('\r\n ','').replace('\xa0',' ').replace('\\','\\\\')
IndexError: list index out of range
答案 0 :(得分:1)
此行是错误的:
x = r.text.strip().replace('\r\n ','').replace('\xa0',' ').replace('\\','\\\\')
您需要在文本中找到什么?
要抓取文字,您需要在行上方更改为:
$info
然后找到您需要的东西
答案 1 :(得分:0)
发生错误是因为有时没有匹配项,并且您试图访问空列表中的不存在项。可以用print(re.findall("s", "d")[0])
复制相同的结果。
要解决此问题,请将x = p.findall(r.text)[0].strip().replace('\r\n ','').replace('\xa0',' ').replace('\\','\\\\')
行替换为
x = ''
xm = p.search(r.text)
if xm:
x = xm.group(1).strip().replace('\r\n ','').replace('\xa0',' ').replace('\\','\\\\')
注释
p.findall(r.text)[0]
时,要在输入中获得第一个匹配项,因此re.search
最好,因为它只返回第一个匹配项。matchObject.grou[p(1)
if xm:
很重要:如果没有匹配项,x
将保留为空字符串,否则,将在组1中为其分配修改后的值。