使用正则表达式

时间:2018-12-15 11:10:02

标签: python python-3.x pandas

我想使用正则表达式将字符串分解为 Pandas DataFrame 列。

示例CSV数据[已更新]:

Data;Code;Temp;....
12 364 OPR 4 67474;;33;...
893 73 GDP hdj 747;;34;...
hr 777 hr9 GDP;;30;...
463 7g 448 OPR;;28;...

所需的情况:[更新]

Data           | Code        | Temp     | ...
------------------------------------------------
12 364         | OPR 4 67474 | 33       | ...
893 73         | GDP hdj 747 | 34       | ...
hr 777 hr9 GDP | NaN         | 30       | ...
463 7g 448 OPR | NaN         | 28       | ...

正则表达式:

code = re.compile('\sOPR.?[^$]|\sGDP.?[^$]')

仅当OPRGDP不在字符串末尾时,我才需要拆分。 我一直在寻找一种根据比赛位置进行分组的方法。类似于:match.start()
我尝试过类似的操作:df['data'].str.contains(code, regex=True)df['data'] = df['data'].str.extract(code, expand=True)str.find似乎只能用于字符串,而不能用于re.Pattern。我没有完成。

我对熊猫很陌生,所以请忍受我。

3 个答案:

答案 0 :(得分:2)

我对python来说还很陌生,所以如果这不是一个好方法,那么也许有人可以发表评论。我的思路是接受输入并逐行处理它。删除尾随的半冒号,因为输出中没有它。然后使用正则表达式,仅当其后接OPR或GDP并且不在行末时,才使用空格将行分隔。如果这仅给出列表中的一项,则在列表后附加NaN以填充第二列。那么我已经打印了格式。

import re
data_string="""12 364 OPR 4 67474;
893 73 GDP hdj 747;
hr 777 hr9 GDP;
463 7g 448 OPR;
"""

data_list=data_string.splitlines()
for data in data_list:
    data_split=re.split("\s(?=(?:GDP|OPR)[^$])",data[:-1])
    if len(data_split)==1: data_split.append("NaN")
    print("%-20s|%-20s" % tuple(data_split))

输出

12 364              |OPR 4 67474         
893 73              |GDP hdj 747         
hr 777 hr9 GDP      |NaN                 
463 7g 448 OPR      |NaN                 

已根据问题编辑和评论进行了更新

根据对问题和评论的更新,您可以尝试以下操作。我建议您在进行更新之前对此进行测试并检查是否存在任何极端情况,或者添加验证或条件检查。

import pandas as pd
import re

source_data = {'data': ['12 364 OPR 4 67474', '893 73 GDP hdj 747', 'hr 777 hr9 GDP','463 7g 448 OPR'],
         'code': [None, None, None, None],
         'Temp': [33,34,30,28]
         }
df = pd.DataFrame.from_dict(source_data)
print("Original df:")
print(df, "\n")

row_iter=df.iterrows()
for index,row in row_iter:
    data=df.at[index,'data']
    data_split=re.split("\s(?=(?:GDP|OPR)[^$])",data)
    if len(data_split)==2:
        df.at[index,'data']=data_split[0]
        df.at[index,'code']=data_split[1]

print("Updated df:")
print(df)

输出

Original df:
                 data  code  Temp
0  12 364 OPR 4 67474  None    33
1  893 73 GDP hdj 747  None    34
2      hr 777 hr9 GDP  None    30
3      463 7g 448 OPR  None    28 

Updated df:
             data         code  Temp
0          12 364  OPR 4 67474    33
1          893 73  GDP hdj 747    34
2  hr 777 hr9 GDP         None    30
3  463 7g 448 OPR         None    28

答案 1 :(得分:0)

因此,首先您必须检查数据末尾是否具有GDP或OPR。如果没有,那么您可以使用分组的正则表达式来获取所需的项目。圆括号()中的内容代表一个组。我使用最佳语法?P命名了它们。

import re

data = ["12 364 OPR 4 67474;",
   "893 73 GDP hdj 747;",
   "hr 777 hr9 GDP;",
   "463 7g 448 OPR;"]

for item in data:
# first check if it ends with GPR; or OPR;
if re.search("GDP;|OPR;$", item):
    # as u specified it needs to be ignored
    print(item)
else:
    # now u can split into two parts - i am splitting in three but u can do use them however u like
    splited_match_obj = re.search("(?P<Data>.+)(?P<Value>OPR|GDP)(?P<Code>.+)", item)
    print(splited_match_obj["Data"], splited_match_obj["Value"], splited_match_obj["Code"] )

enter image description here

答案 2 :(得分:0)

让我们说这是您的数据框,

    Data                Temp
0   12 364 OPR 4 67474  33
1   893 73 GDP hdj 747  34
2   hr 777 hr9 GDP      30
3   463 7g 448 OPR      28

您可以根据条件将提取物与多个捕获组一起使用

df1[['Data', 'Code']] = df.loc[~df['Data'].str.endswith(('OPR','GDP')), 'Data'].str.extract('(.*)([A-Z]{3} .*)')
df2[['Data', 'Code']] = df.loc[df['Data'].str.endswith(('OPR','GDP')), 'Data'].str.extract('(.*[OPR|GDP]$)(.*)')
df[['Data', 'Code']] = pd.concat([df1,df2])

    Data            Temp    Code
0   12 364          33      OPR 4 67474
1   893 73          34      GDP hdj 747
2   hr 777 hr9 GDP  30  
3   463 7g 448 OPR  28