我想在python中实现Vantage Point Tree,但它使用C ++中的std :: nth_element。
所以我想在Python或numpy中找到等效的'nth_element'函数。
注意,nth_element只会对数组进行部分排序,而且它是O(N)。
int the_array[10] = {4,5,7,3,6,0,1,2,9,8};
std::vector<int> the_v(the_array,the_array+10);
std::nth_element (the_v.begin()+0, the_v.begin()+5, the_v.begin()+10);
现在矢量可能是:
3,0,2,1,4,5,6,7,9,8
我不仅希望获得第n个元素,还希望重新安排列表的两部分,[3,0,2,1,4]和[6,7,9,8]
此外,nth_element支持接受一个可以比较两个元素的函数,例如,在下面因为,vector是一个向量op DataPoint,而DistanceComparator函数将比较两个点距离与_v.begin():
vector<DataPoint> the_v;
for(int n = 0; n < N; n++) the_v[n] = DataPoint(D, n, X + n * D);
std::nth_element (the_v.begin()+0, the_v.begin()+5, the_v.begin()+10,
DistanceComparator(the_v.begin()));
修改
我已经使用了bhuvan-venkatesh的答案,并编写了一些代码进行测试。
partition_timer = timeit.Timer("numpy.partition(a, 10000)",
"import numpy;numpy.random.seed(2);"+
"a = numpy.random.rand(10000000)")
print(partition_timer.timeit(10))
sort_timer = timeit.Timer("numpy.sort(a)",
"import numpy;numpy.random.seed(2);"+
"a = numpy.random.rand(10000000)")
print(sort_timer.timeit(10))
sorted_timer = timeit.Timer("sorted(a)",
"import numpy;numpy.random.seed(2);"+
"a = numpy.random.rand(10000000)")
print(sorted_timer.timeit(10))
结果:
2.2217168808
17.0386350155
281.301710844
然后,我将使用C ++代码进行更多测试。
但是有一个问题,当使用numpy时,它总会返回一个新数组,当我的数组很大时会浪费大量内存。 我该怎么办呢 或者我只需要为python编写C ++扩展。
EDIT2:
@ bhuvan-venkatesh感谢您推荐分区功能。
我使用如下的分区:
import numpy
@profile
def for_numpy():
numpy.random.seed(2)
a = numpy.random.rand(1e7)
for i in range(100):
a.partition(numpy.random.randint(1e6))
if __name__ == '__main__':
for_numpy()
并运行探查器,如:
python -m memory_profiler profiler_test.py
结果是:
Line # Mem usage Increment Line Contents
================================================
25 23.613 MiB 0.000 MiB @profile
26 def for_numpy():
27 23.613 MiB 0.000 MiB numpy.random.seed(2)
28 99.934 MiB 76.320 MiB a = numpy.random.rand(1e7)
29 100.004 MiB 0.070 MiB for i in range(100):
30 100.004 MiB 0.000 MiB a.partition(numpy.random.randint(1e6))
它不会复制整个数组,如: numpy.partition(a,3)
结论: numpy.ndarray.partition是我想找到的。
答案 0 :(得分:1)
http://docs.scipy.org/doc/numpy/reference/generated/numpy.partition.html
只需确保numpy分区将创建两个新数组,这意味着您将快速创建大量新数组。它们比python列表更有效,但不会像在c ++中那样完全相同。
如果你想要确切的元素,那么你可以进行过滤搜索,它仍然是O(n)
array = np.array(...)
partition = np.partition(array, 5) # O(n)
element = np.where(partition==array[5]) # O(n)
left, right = partition[:element], partition[element+1:] # O(n)
所以你的新代码速度较慢,但这是python-y的方法。
<强> 编辑: 强>
所以你需要一个比较器?除了编写自己的小函数之外,没有办法 - 在纯粹的numpy中作为关键字 - 因为每个numpy操作都是在高度优化的c代码中实现的,这意味着传入python函数或python lambda会强制numpy每次和eval都转到对象级别。
numpy.vectorize 进入对象级别,但最后你必须编写自己的代码;如果您想创建更“优化的算法”,Rosetta code会产生影响。 (我把它放在引号中,因为对于python对象,由于对象级访问,你仍然比c或numpy代码慢得多)。如果速度是你真正关心的问题,但你希望python可读性考虑使用cython进行扩展。