我需要进行一些房地产市场研究,为此需要价格以及新房的其他价值。
所以我的想法是进入获得信息的网站。
转到Main-Search-Site并抓取所有RealEstateID,这些RealEstateID会将我直接导航到我可以在其中每个房子的单个页面,然后提取我需要的信息。
现在,我获得了每个房屋所需的所有数据,但与print()
中的原始数据一样。我想将所有内容保存在.csv文件中,而我的方法是使用字典文件。
既然对Python来说我很安静,那么如果您能帮助我并向我解释我的错误,那就太好了。
csv.file最终应如下所示:
IDS Price Size District Flattyp Rooms
123 1200 250 Hollywood good 4
253 25 Beverly Hills bad 2
952
代码:
res = requests.get('https://www.immobilienscout24.de/Suche/S-T/Wohnung-Kauf/Nordrhein-Westfalen/Duesseldorf/-/-/-/-/-/-/-/-/-/-/-/-/-/-/-/-/-/true?enteredFrom=result_list')
soup = bs(res.content, 'lxml')
r = re.compile(r'resultListModel:(.*)')
data = soup.find('script', text=r).text
script = r.findall(data)[0].rstrip(',')
#resultListModel:
results = json.loads(script)
ids = list(results['searchResponseModel']['entryInformation'].keys())
data = json.dumps(ids)
houseinfo = {}
csvData = [['id','purchasePrice','Spacesize','District','Flattyp','Rooms']]
def get_house_info (House):
for id in ids:
try:
sourceCode = urllib.request.urlopen('https://www.immobilienscout24.de/expose/' + str(id)).read()
purchasePrice = str(sourceCode).split('"purchasePrice":')[1].split(',"geoCode"')[0]
Spacesize = str(sourceCode).split('"area":')[1].split('},"details"')[0]
District = str(sourceCode).split('"quarter":')[1].split('},')[0]
Flattyp = str(sourceCode).split('"is24qa-typ grid-item three-fifths">')[1].split('</dd> </dl> <dl class')[0]
Rooms = str(sourceCode).split('is24qa-zimmer grid-item three-fifths"> ')[1].split(' </dd> </dl> <dl class=')[0]
#parking_space = str(sourceCode).split('<dd class="is24qa-garage-stellplatz grid-item three-fifths">')[1].split('</dd> </dl>')[0]
#parking_price = str(sourceCode).split('<dd class="is24qa-garage-stellplatz-kaufpreis grid-item three-fifths">')[1].split('</dd> </dl> </div>')[0]
#print(id, purchasePrice, Spacesize, Flattyp, Rooms, District,)
houseinfo [id]= {'price' : purchasePrice, 'size' : Spacesize,
'district': District, 'flattyp' : Flattyp,
'rooms': Rooms};
with open ('house.csv', 'a') as csvData:
writer = csv.writer(csvData)
writer.writerow(houseinfo)
csvData.close()
except Exception as e:
print("failed in the main loop", str(e))
get_house_info(ids)
答案 0 :(得分:1)
您似乎很亲近。由于看起来您已经有了一个名为houseinfo的字典,因此对于每个id都有一个特定格式的字典,我建议您进行
with open('foo.txt', 'w') as csvfile:
cols = ['price', 'size', 'district', 'flattyp', 'rooms']
dict_result = {'price': 1.0, 'size': 1, 'district': 'Hollywood', 'flattyp': 'good', 'rooms': 3}
writer = csv.DictWriter(csvfile, fieldnames=cols)
writer.writeheader()
writer.writerow(dict_result)
dict_result是您的houseinfo[id]
。
这将导致文本文件
price,size,district,flattyp,rooms
1.0,1,Hollywood,good,3
然后您可以使用csvreader进行阅读。