我基本上是试图遍历已分组的数据框,并找到具有与输入参数最接近的值的索引。
例如,给定下面的数据框,对于global_id
定义的每个组,我要分组以获取至少间隔10帧的帧。例如,如果我有一个帧列表[1,2,3,4,14,20,30,31],则输出将为[1,14,30],因为
因此,数据帧之前和之后的结果应如下图所示
之前
seq_name label pedestrian_id frame_no global_id
0 0001 crossing 0001 0001 1
1 0001 crossing 0001 0002 1
2 0001 crossing 0001 0003 1
3 0001 crossing 0001 0004 1
4 0001 crossing 0001 0005 1
5 0001 crossing 0001 0006 1
6 0001 crossing 0001 0007 1
7 0001 crossing 0001 0008 1
8 0001 crossing 0001 0009 1
9 0001 crossing 0001 0010 1
10 0001 crossing 0002 0001 2
11 0001 crossing 0002 0012 2
12 0001 crossing 0002 0013 2
13 0001 crossing 0002 0014 2
14 0001 crossing 0002 0015 2
15 0001 crossing 0002 0029 2
16 0001 crossing 0002 0030 2
17 0001 crossing 0002 0031 2
18 0001 crossing 0002 0032 2
19 0001 crossing 0002 0033 2
20 0002 crossing 0001 0034 3
21 0002 crossing 0001 0035 3
22 0002 crossing 0001 0036 3
23 0002 crossing 0001 0037 3
24 0002 crossing 0001 0038 3
25 0002 crossing 0001 0039 3
26 0002 crossing 0001 0049 3
27 0002 crossing 0001 0050 3
28 0002 crossing 0001 0051 3
29 0002 crossing 0001 0052 3
过滤后
seq_name label pedestrian_id frame_no global_id
0 0001 crossing 0001 0001 1
10 0001 crossing 0002 0001 2
11 0001 crossing 0002 0012 2
15 0001 crossing 0002 0029 2
25 0002 crossing 0001 0039 3
26 0002 crossing 0001 0049 3
下面是我所拥有的。一旦有了索引,就可以通过从旧索引创建新的数据框。我还是Pandas的新手,它看起来非常笨拙,因此我希望有一个更优雅的解决方案。我已经阅读了有关groupby和其他一些SO帖子的文档,但仍然无法弄清楚。这不是功课。只是尝试通过用Pandas替换所有内容来清理数据处理管道。
ind = []
for j in df["global_id"].unique():
df_temp = df[df["global_id"] == j][["frame_no"]]
df_temp["frame_no"] = pd.to_numeric(df["frame_no"])
start_frame = df_temp["frame_no"].min()
end_frame = df_temp["frame_no"].max()
i = start_frame-1
while i < end_frame:
ind.append(np.min(df_temp[(df_temp["frame_no"] > i) & (df_temp["frame_no"] < i+10)].index.tolist()))
i+=10
答案 0 :(得分:1)
这里是使用groupby
的一种方法,但是首先您需要定义一个函数来完成每个组中的查找。为了解释这个想法,让我们考虑一个简单的数据框dfs = pd.DataFrame({'a':[1,2,3,4,14,20,30,31]})
一段时间以来,我一直在寻求解决此类问题,试图避免循环,这似乎很复杂。这就是我最终的想法。在numpy中,您可以将substract
与outer
结合使用,以获取每个元素之间一对一的所有差异
print (np.subtract.outer(dfs.a, dfs.a))
array([[ 0, -1, -2, -3, -13, -19, -29, -30],
[ 1, 0, -1, -2, -12, -18, -28, -29],
[ 2, 1, 0, -1, -11, -17, -27, -28],
[ 3, 2, 1, 0, -10, -16, -26, -27],
[ 13, 12, 11, 10, 0, -6, -16, -17],
[ 19, 18, 17, 16, 6, 0, -10, -11],
[ 29, 28, 27, 26, 16, 10, 0, -1],
[ 30, 29, 28, 27, 17, 11, 1, 0]], dtype=int64)
现在,例如,在column 0
中,您可以看到差异>10
从row 4
开始,然后转到column 4
,差异>10
从row 6
,然后转到column 6
,您所获得的收益就不会足够大。因此,过滤将保留第0、4和6行,这就是寻找的值[1,14,30]。要获取这些数字,您可以将np.substract.outer
与{{1}进行比较,将sum
与10和axis=0
进行比较,例如:
arr = (np.subtract.outer(dfs.a, dfs.a) <=10).sum(0)
print (arr)
array([4, 4, 4, 5, 6, 7, 8, 8])
在此示例中,现在您看到arr[0] = 4
,然后是arr[4] = 6
,然后是arr[6]=8
,因此请停止。捕获这些数字的一种方法是使用while
(如果有人对此有numpy
解决方案,我很感兴趣)
list_ind = [0] # initialize list of index to keep with 0
arr = (np.subtract.outer(dfs.a, dfs.a) <=10).sum(0)
i = arr[0]
while i < len(arr):
list_ind.append(i)
i = arr[i]
print (list_ind)
[0, 4, 6]
print (dfs.iloc[list_ind])
a
0 1
4 14
6 30
现在有了整个问题,groupby
,您可以做到:
# it seems you need to convert the column frame_no to integer
df['frame_int'] = pd.to_numeric(df['frame_no'])
df = df.sort_values('frame_int') #ensure data to be sorted by frame_int, whatever the global_id
#define the function looking for the ind
def find_ind (df_g):
list_ind = [0]
arr = (np.subtract.outer(df_g.frame_int, df_g.frame_int) <= 10).sum(0)
i = arr[0]
while i <len(arr):
list_ind.append(i)
i = arr[i]
return df_g.iloc[list_ind]
#create the filtered dataframe
df_filtered = (df.groupby('global_id').apply(find_ind)
.drop('frame_int',axis=1).reset_index(drop=True))
print (df_filtered)
seq_name label pedestrian_id frame_no global_id
0 1 crossing 1 1 1
1 1 crossing 2 1 2
2 1 crossing 2 12 2
3 1 crossing 2 29 2
4 2 crossing 1 34 3
5 2 crossing 1 49 3
如果要保留原始行的索引,可以在level=0
中添加reset_index
,例如reset_index(level=0,drop=True)
。