我正在尝试读取一组文本文件,并将其保存到数据框。感谢@jezrael,我得以按如下所示成功工作:
list_ = []
dfs = []
for file_ in allFiles:
with open(file_) as fp:
lines1 = fp.read().split('\n')
b = [i.split('~', 1)[1].split('*') for i in lines1]
df = pd.DataFrame(b)
dfs.append(df)
dfbig = pd.concat(dfs, ignore_index=True)
dfbig.to_csv('file.csv')
但是我看到有几行具有多个('~')
条目,因此,每次('~')
连续出现不止一次时,它只会执行一次拆分。我试图查看如何修改上面的代码,以便每次('~')
出现时都进行拆分。
样本数据:
[ABC*DEF*123>~123*999*HHH~HELLO*TEST*DATA]
预期输出:
123 999 HHH
HELLO TEST DATA
答案 0 :(得分:2)
您可以更改:
b = [i.split('~', 1)[1].split('*') for i in lines1]
列出对所有~
值进行展平和拆分并过滤掉第一个值的理解:
b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]
验证:
lines1 = ['ABC*DEF*123>~123*999*HHH~HELLO*TEST*DATA']
b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]
print (b)
[['123', '999', 'HHH'], ['HELLO', 'TEST', 'DATA']]
然后应使用extend
更改解决方案:
list_ = []
allFiles = glob.glob('csv/*.*')
for file_ in allFiles:
with open(file_) as fp:
lines1 = fp.read().split('\n')
b = [x.split('*') for i in lines1 for x in i.split('~')[1:]]
list_.extend(b)
dfbig = pd.DataFrame(list_)