ternary search 算法是一种快速算法,用于查找 unimodal function 的最小值或最大值,该函数可以增加然后减少或减少然后增加。假设我们正在处理一个减少然后增加的函数,并且我们想要找到最小值。三元搜索使用以下递归:
此算法可以快速运行,因为它可以在每次迭代时保持抛出1/3的值。
但是,我觉得我错过了一些东西,因为我相信我们可以让这个算法运行得更快。特别要注意的是,我们总是抛出边界和其中一个探测点之间的三分之一。这意味着我们保留探测点和另一个边界之间的区域。因为三元搜索在1/3点处拾取探测点,这意味着我们在每个点保留2/3的值。如果不是在1/3和2/3点探测,我们在1/2 - ε和1/2 +ε点探测极小的ε会怎么样?这意味着我们将在每一步上抛出1/2 - ε的范围,这意味着范围的大小将比我们每次仅抛出1/3元素的速度快得多。
作为一个例子,如果我选择ε= 1/1000,我们可以抛出999/2000的范围来搜索每次迭代。此处显示了经过一定次数迭代后剩余的分数(三元搜索位于左侧,我的算法位于右侧:)
1 : 1.0 >= 1.0
2 : 0.666666666667 >= 0.5005
3 : 0.444444444444 >= 0.25050025
4 : 0.296296296296 >= 0.125375375125
5 : 0.197530864198 >= 0.0627503752501
6 : 0.131687242798 >= 0.0314065628127
7 : 0.0877914951989 >= 0.0157189846877
8 : 0.0585276634659 >= 0.00786735183621
9 : 0.0390184423106 >= 0.00393760959402
10 : 0.0260122948737 >= 0.00197077360181
11 : 0.0173415299158 >= 0.000986372187705
12 : 0.0115610199439 >= 0.000493679279947
13 : 0.00770734662926 >= 0.000247086479613
14 : 0.00513823108617 >= 0.000123666783046
15 : 0.00342548739078 >= 6.18952249147e-05
16 : 0.00228365826052 >= 3.09785600698e-05
17 : 0.00152243884035 >= 1.55047693149e-05
18 : 0.00101495922690 >= 7.76013704213e-06
19 : 0.000676639484599 >= 3.88394858959e-06
该算法的修改版本是否比原始版本“更好”?或者我在这里缺少什么意味着我不应该使用修改后的策略来挑选探测点?
答案 0 :(得分:3)
此版本肯定会更快收敛,但可能更容易出现浮点精度问题。例如,如果你得到m + eps = m怎么办?如果m很大,那么这是一个真正的可能性。因此,在准确度和收敛速度之间存在权衡。该类的最佳算法可以说是Golden Section Search,它既快速又准确。
答案 1 :(得分:1)
如果函数是单峰的,那么当从左边界到右边界增加y时,g(y)= F(y +ε) - F(y)只穿过零一次。
基本上,您在第二个/改进算法中提出的建议是对g(y)的过零(根)进行二元搜索。假设您正在进行最小化,因此F(y)只有一个最小值。那么G(y)是负一段时间,然后是正数。因此,如果g(x)<0,则根大于x(或更精确:x +ε),并且如果g(x)> 0,则根小于x。
这比您的第一个/原始算法更快(最差情况),因为最小值所在的区域每一步减半,而不是乘以2/3。