模拟退火是一种蒙特卡洛方法吗?

时间:2019-05-14 19:01:17

标签: algorithm machine-learning

我最近正在研究一些有关优化的算法。我发现了一种非常有趣的算法,称为模拟退火。根据我的理解,我们的初始点变为分布而不是实际点。它也与初始的“温度”有关,但主要思想是“冷却”。这是尝试达到本地优化时“转移”的某些情况。这样就可以克服局部最优陷阱。我想知道模拟退火也是蒙特卡洛方法的一种。不同之处在于,蒙特卡洛工作在全球范围内,模拟退火工作在本地进行。我的想法正确吗?

3 个答案:

答案 0 :(得分:1)

不,annealing不是一种蒙特卡洛方法,但是您的比较并不愚蠢。退火 是概率性的,但与蒙特卡洛的特征不太吻合。

主要区别在于过程中分布的定义。蒙特卡洛通过经验模拟分布来确定解决方案。在搜索分布定义时对其进行退火,从而逐渐限制每个状态转换对“邻居”的概率定义的限制。

您可能会对退火的常见说明有所关注,因为该概念通常并行地作为局部分辨率方法应用于图像的每个像素。此 是一个本地应用程序,蒙特卡洛不适用于该应用程序-再次,您的想法可能非常适合您的想法,即使从形式上说它并不是纯粹正确的。 / p>

答案 1 :(得分:0)

除了以下事实外,这两种方法都使用(伪)随机数(因此是随机算法),它们有很大不同:

  • 蒙特卡洛测试解决方案空间中无关的或多或少均匀分布的点。
  • 模拟退火从一个点开始,并通过更改最新点来创建一条穿过溶液空间的路径。取决于当前的“温度”,改变所产生的差值以及接受新点或保留旧点的随机数。这种方法适用于解决方案空间,其中好的解决方案往往被其他好的解决方案包围。通过逐渐降低“温度”,人们希望强制该算法将当前点带到解空间的越来越好的区域。

答案 2 :(得分:0)

在这里不同意其他答案。模拟退火(Metropolis-Hastings算法[1953])在很大程度上是一种蒙特卡罗方法。哎呀,大都会(Metropolis)给这类方法赋予了名称“蒙特卡洛方法”。