Python-使用分隔符从文本文件分割数据

时间:2019-03-15 13:54:46

标签: python pandas delimiter

我正在尝试读取一组文本文件,并将其保存到数据框。感谢@jezrael,我得以按如下所示成功工作:

list_ = []
dfs = []
for file_ in allFiles:
    with open(file_) as fp:
        lines1 = fp.read().split('\n')
        b = [i.split('~', 1)[1].split('*') for i in lines1]
        df = pd.DataFrame(b)
        dfs.append(df)

dfbig = pd.concat(dfs, ignore_index=True)
dfbig.to_csv('file.csv')

但是我看到有几行具有多个('~')条目,因此,每次('~')连续出现不止一次时,它只会执行一次拆分。我试图查看如何修改上面的代码,以便每次('~')出现时都进行拆分。

样本数据:

[ABC*DEF*123>~123*999*HHH~HELLO*TEST*DATA]

预期输出:

123 999 HHH
HELLO TEST DATA

1 个答案:

答案 0 :(得分:2)

您可以更改:

b = [i.split('~', 1)[1].split('*') for i in lines1]

列出对所有~值进行展平和拆分并过滤掉第一个值的理解:

b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]

验证:

lines1 = ['ABC*DEF*123>~123*999*HHH~HELLO*TEST*DATA']
b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]
print (b)
[['123', '999', 'HHH'], ['HELLO', 'TEST', 'DATA']]

然后应使用extend更改解决方案:

list_ = []

allFiles = glob.glob('csv/*.*')
for file_ in allFiles:
    with open(file_) as fp:
        lines1 = fp.read().split('\n')
        b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]
        list_.extend(b)

dfbig = pd.DataFrame(list_)