在PANDAS
数据框中获取相同类型邻居范围的最快方法是什么?
问题是我有一个在input
列中排序的数据框,我需要知道这些值的范围,列output
的值彼此相同。
我做了什么?
我写了一个符合我需要的程序:
data = pd.read_csv('data.txt')
print("Original Data:")
print(data)
tmpdata = data.copy()
slicedorg = data.copy()
jump = 0
to = 0
while jump < len(data):
tmpdata['output'] = (slicedorg['output'] == slicedorg['output'].loc[0])
jump += to
try:
to = tmpdata['output'].tolist().index(False)
if jump == 0:
data['input'] = data['input'].replace([data['input'].loc[range(jump, to + jump)]]
, "(begin," + str(data['input'].loc[jump + to]) + ")" )
else:
data['input'] = data['input'].replace([data['input'].loc[range(jump, to + jump)]]
, "[" + str(data['input'].loc[jump]) + ","
+ str(data['input'].loc[jump + to]) + ")")
tmpdata = tmpdata.tail(len(tmpdata) - to)
slicedorg = slicedorg.tail(len(slicedorg) - to)
tmpdata = tmpdata.reset_index(drop=True)
slicedorg = slicedorg.reset_index(drop=True)
except:
data['input'] = data['input'].replace([slicedorg['input'].loc[range(0, len(data))]]
, "[" + str(tmpdata['input'].loc[0]) + ",end)")
break
print("\nAfter Altering:")
print(data)
这段代码的结果是这样的:
Original Data:
input output
0 3 gear
1 7 gear
2 11 gear
3 24 gear
4 55 back
5 56 back
6 82 back
7 100 gear
8 101 gear
9 200 peak
10 208 peak
11 233 peak
After Altering:
input output
0 (begin,55) gear
1 (begin,55) gear
2 (begin,55) gear
3 (begin,55) gear
4 [55,100) back
5 [55,100) back
6 [55,100) back
7 [100,200) gear
8 [100,200) gear
9 [200,end) peak
10 [200,end) peak
11 [200,end) peak
甚至这段代码对我来说都有用,但我的数据表非常庞大,并且制作两个数据副本并循环遍历列非常耗时,有没有更好的方法来做我想要的?请注意,也许我没有编写一个非常好的代码(我在python中有点新),但我主要是寻找更快的建议算法。
我正在使用python 3.5和最新版本的pandas 感谢
答案 0 :(得分:1)
我太懒了,无法按照你想要的方式获得格式,但是你可以使用compare-cumsum-groupby模式来完成困难的部分:
group_ids = (df["output"] != df["output"].shift()).cumsum()
grouped = df["input"].groupby(group_ids)
bounds = grouped.min().shift(-1)
left = bounds.shift(1).fillna(0).astype(int).astype(str)
right = bounds.fillna(0).astype(int).astype(str)
left.iloc[0] = "begin"
right.iloc[-1] = "end"
bounds = left + "," + right
df["bounds"] = bounds.loc[group_ids].values
给了我
>>> df
input output bounds
0 3 gear begin,55
1 7 gear begin,55
2 11 gear begin,55
3 24 gear begin,55
4 55 back 55,100
5 56 back 55,100
6 82 back 55,100
7 100 gear 100,200
8 101 gear 100,200
9 200 peak 200,end
10 208 peak 200,end
11 233 peak 200,end