在python中将CSV转换为JSON文件

Question

上面的csv文件包含近2000行。

我想逐行解析CSV文件并将其转换为JSON并通过websocket发送。

我在网上找到了一些将CSV转换为JSON的代码，如下所示：

import csv
import json

csvfile = open('file.csv', 'r')
jsonfile = open('file.json', 'w')

fieldnames = ("FirstName","LastName","IDNumber","Message")
reader = csv.DictReader( csvfile, fieldnames)
for row in reader:
    json.dump(row, jsonfile)
    jsonfile.write('\n')

但是上面代码的问题是我们需要提及字段名称来解析CSV。由于我的行数超过2000，所以这不是可行的解决方案。

有人可以建议如何逐行解析CSV文件并将其转换为JSON，而无需指定字段名称吗？

Answer 1

Python CSV 到 JSON

要在 Python 中将 CSV 转换为 JSON，请按照下列步骤操作：

1. 初始化 Python 列表。
2. 使用 csv.DictReader() 函数读取 CSV 文件的行。
3. 将每一行转换成字典。将字典添加到在步骤 1 中创建的 Python 列表中。
4. 使用 json.dumps() 将 Python 列表转换为 JSON 字符串。
5. 您可以将 JSON 字符串写入 JSON 文件。

数据.csv

• 在测试中，我使用复制/粘贴在 csv 文件中制作了 100.000 行，使用 Apple's M1 Chip 完成整个转换大约需要半秒，而提供的示例仅用了 0.0005 秒。

column_1,column_2,column_3
value_1_1,value_1_2,value_1_3
value_2_1,value_2_2,value_2_3
value_3_1,value_3_2,value_3_3

Python 程序

import csv 
import json
import time

def csv_to_json(csvFilePath, jsonFilePath):
    jsonArray = []
      
    #read csv file
    with open(csvFilePath, encoding='utf-8') as csvf: 
        #load csv file data using csv library's dictionary reader
        csvReader = csv.DictReader(csvf) 

        #convert each csv row into python dict
        for row in csvReader: 
            #add this python dict to json array
            jsonArray.append(row)
  
    #convert python jsonArray to JSON String and write to file
    with open(jsonFilePath, 'w', encoding='utf-8') as jsonf: 
        jsonString = json.dumps(jsonArray, indent=4)
        jsonf.write(jsonString)
          
csvFilePath = r'data.csv'
jsonFilePath = r'data.json'

start = time.perf_counter()
csv_to_json(csvFilePath, jsonFilePath)
finish = time.perf_counter()

print(f"Conversion 100.000 rows completed successfully in {finish - start:0.4f} seconds")

输出：data.json

Conversion 100.000 rows completed successfully in 0.5169 seconds

[
    {
        "column_1": "value_1_1",
        "column_2": "value_1_2",
        "column_3": "value_1_3"
    },
    {
        "column_1": "value_2_1",
        "column_2": "value_2_2",
        "column_3": "value_2_3"
    },
    {
        "column_1": "value_3_1",
        "column_2": "value_3_2",
        "column_3": "value_3_3"
    }
]

Answer 2

如果您对自己的解决方案感到满意，并且唯一麻烦的是如何输入列标题的“长”列表，我建议您使用类似reader的方法阅读CSV的第一行（标题） .next（），

import csv

with open('your_CSV.csv') as csvFile:
    reader = csv.reader(csvFile)
    field_names_list = reader.next()

，然后使用str.split(',')将获得的字符串分成一个列表。

然后您可以将获得的列表输入

fieldnames = (---from the above code block ---)

您的代码行

Answer 3

假设您的CSV文件具有标题行：只需从DictReader中删除fieldnames参数

  

如果省略fieldnames参数，则文件f第一行中的值将用作字段名。   在https://docs.python.org/2/library/csv.html

中

import csv
import json

csvfile = open('file.csv', 'r')
jsonfile = open('file.json', 'w')


reader = csv.DictReader(csvfile)
for row in reader:
    json.dump(row, jsonfile)
    jsonfile.write('\n')

Answer 4

你可以试试这个：

import csv 
import json 

def csv_to_json(csvFilePath, jsonFilePath):
    jsonArray = []
      
    with open(csvFilePath, encoding='utf-8') as csvf: 
        csvReader = csv.DictReader(csvf) 

        for row in csvReader: 
            jsonArray.append(row)
  
    with open(jsonFilePath, 'w', encoding='utf-8') as jsonf: 
        jsonString = json.dumps(jsonArray, indent=4)
        jsonf.write(jsonString)
          
csvFilePath = r'data.csv'
jsonFilePath = r'data.json'
csv_to_json(csvFilePath, jsonFilePath)

我转换了一个 200MB 的文件，其中包含 600K+ 行，并且效果很好。