确定数据帧列中相同类型邻居范围的最快方法

时间:2016-01-06 17:32:10

标签: python algorithm python-3.x pandas

PANDAS数据框中获取相同类型邻居范围的最快方法是什么? 问题是我有一个在input列中排序的数据框,我需要知道这些值的范围,列output的值彼此相同。

我做了什么?
我写了一个符合我需要的程序:

data = pd.read_csv('data.txt')
print("Original Data:")
print(data)
tmpdata = data.copy()
slicedorg = data.copy()
jump = 0
to = 0
while jump < len(data):
    tmpdata['output'] = (slicedorg['output'] == slicedorg['output'].loc[0])
    jump += to
    try:
        to = tmpdata['output'].tolist().index(False)
        if jump == 0:
            data['input'] = data['input'].replace([data['input'].loc[range(jump, to + jump)]] 
                                                                    , "(begin," + str(data['input'].loc[jump + to]) + ")" )
        else:
            data['input'] = data['input'].replace([data['input'].loc[range(jump, to + jump)]] 
                                                                    , "[" + str(data['input'].loc[jump]) + "," 
                                                                        + str(data['input'].loc[jump + to]) + ")")
        tmpdata = tmpdata.tail(len(tmpdata) - to)
        slicedorg = slicedorg.tail(len(slicedorg) - to)
        tmpdata = tmpdata.reset_index(drop=True)
        slicedorg = slicedorg.reset_index(drop=True)
    except:
        data['input'] = data['input'].replace([slicedorg['input'].loc[range(0, len(data))]] 
                                                                , "[" + str(tmpdata['input'].loc[0]) + ",end)")
        break
print("\nAfter Altering:")
print(data)  

这段代码的结果是这样的:

Original Data:
      input output
0       3   gear
1       7   gear
2      11   gear
3      24   gear
4      55   back
5      56   back
6      82   back
7     100   gear
8     101   gear
9     200   peak
10    208   peak
11    233   peak

After Altering:
         input output
0   (begin,55)   gear
1   (begin,55)   gear
2   (begin,55)   gear
3   (begin,55)   gear
4     [55,100)   back
5     [55,100)   back
6     [55,100)   back
7    [100,200)   gear
8    [100,200)   gear
9    [200,end)   peak
10   [200,end)   peak
11   [200,end)   peak  

甚至这段代码对我来说都有用,但我的数据表非常庞大,并且制作两个数据副本并循环遍历列非常耗时,有没有更好的方法来做我想要的?请注意,也许我没有编写一个非常好的代码(我在python中有点新),但我主要是寻找更快的建议算法。

我正在使用python 3.5和最新版本的pandas 感谢

1 个答案:

答案 0 :(得分:1)

我太懒了,无法按照你想要的方式获得格式,但是你可以使用compare-cumsum-groupby模式来完成困难的部分:

group_ids = (df["output"] != df["output"].shift()).cumsum()
grouped = df["input"].groupby(group_ids)
bounds = grouped.min().shift(-1)

left = bounds.shift(1).fillna(0).astype(int).astype(str)
right = bounds.fillna(0).astype(int).astype(str)

left.iloc[0] = "begin"
right.iloc[-1] = "end"
bounds = left + "," + right

df["bounds"] = bounds.loc[group_ids].values

给了我

>>> df
    input output    bounds
0       3   gear  begin,55
1       7   gear  begin,55
2      11   gear  begin,55
3      24   gear  begin,55
4      55   back    55,100
5      56   back    55,100
6      82   back    55,100
7     100   gear   100,200
8     101   gear   100,200
9     200   peak   200,end
10    208   peak   200,end
11    233   peak   200,end