如何删除csv scrapy中的空格

时间:2017-12-02 05:47:19

标签: python python-3.x csv scrapy scrapy-spider

如何删除csv中的空格?

我跑:scrapy crawl quotes -o quotes.csv。输出就像图中的那样。

我知道这是一个Windows问题,因为在Windows上使用csv时我必须使用下面的代码。例如,使用硒时。

with open('C:\\fa.csv', 'a+', newline='', encoding="utf-8") as outfile:

Scrapy与Csv的处理方式不同,我用

启动
scrapy crawl quotes -o quotes.csv

There is no: scrapy crawl quotes -o /n quotes.csv

代码:

import scrapy


class QuotesSpider(scrapy.Spider):
    name = "quotes"
    start_urls = [
        'http://quotes.toscrape.com/page/1/',
    ]

    def parse(self, response):
        for quote in response.css('div.quote'):
            yield {
                'text': quote.css('span.text::text').extract_first(),
                'author': quote.css('small.author::text').extract_first(),
                'tags': quote.css('div.tags a.tag::text').extract(),
            }

        next_page = response.css('li.next a::attr(href)').extract_first()
        if next_page is not None:
            next_page = response.urljoin(next_page)
            yield scrapy.Request(next_page, callback=self.parse)

enter image description here

2 个答案:

答案 0 :(得分:0)

您可以尝试以下修复:

from scrapy.conf import settings
from scrapy.contrib.exporter import CsvItemExporter


class FixCsvItemExporter(CsvItemExporter):

    def __init__(self, *args, **kwargs):
        newline = settings.get('CSV_NEWLINE', '')
        kwargs['newline'] = newline
        super(FixCsvItemExporter, self).__init__(*args, **kwargs)

然后,在您的抓取工具目录的settings.py文件中,您需要添加以下内容:

FEED_EXPORTERS = {
    'csv': 'path.to.sourcefile.FixCsvItemExporter',
}

答案 1 :(得分:0)

我遇到了同样的问题并自行找到了解决方案:Scrapy python csv output has blank lines between each row

那就是说,我相信在某些方面会有一个补丁。