我有一个很大的csv文件,其中包含以下数据:
2018-09, 100, A, 2018-10, 50, M, 2018-11, 69, H,....
,依此类推。 (连续的流,没有单独的行)
我想将其转换为数据框,看起来像
Col1 Col2 Col3
2018-09 100 A
2018-10 50 M
2018-11 69 H
这是实际数据的简化版本。请提出什么最好的方法。
编辑:为澄清起见,我的csv文件的每一行没有单独的行。所有数据都在一行上。
答案 0 :(得分:3)
一种解决方案是通过csv
模块和this algorithm将您的单行拆分为多个块,然后将其馈送到pd.DataFrame
构造函数中。请注意,您的数据框的类型为object
,因此之后必须显式转换数字系列类型。
from io import StringIO
import pandas as pd
import csv
x = StringIO("""2018-09, 100, A, 2018-10, 50, M, 2018-11, 69, H""")
# define chunking algorithm
def chunks(L, n):
"""Yield successive n-sized chunks from l."""
for i in range(0, len(L), n):
yield L[i:i + n]
# replace x with open('file.csv', 'r')
with x as fin:
reader = csv.reader(fin, skipinitialspace=True)
data = list(chunks(next(iter(reader)), 3))
# read dataframe
df = pd.DataFrame(data)
print(df)
0 1 2
0 2018-09 100 A
1 2018-10 50 M
2 2018-11 69 H
答案 1 :(得分:1)
data = pd.read_csv('tmp.txt', sep=',\s *', header=None).values
pd.DataFrame(data.reshape(-1, 3), columns=['Col1', 'Col2', 'Col3'])
返回
Col1 Col2 Col3
0 2018-09 100 A
1 2018-10 50 M
2 2018-11 69 H