F#中的尾递归:堆栈溢出

时间:2016-01-19 15:59:41

标签: f# stack-overflow tail-recursion continuation-passing kosaraju-algorithm

我试图在大图上实现Kosaraju的算法 作为任务的一部分[MOOC Algo I Stanford on Coursera]

https://en.wikipedia.org/wiki/Kosaraju%27s_algorithm

当前代码适用于小图,但我在运行时执行期间遇到了Stack Overflow。

尽管已经阅读了F#中的专家相关章节,或者网站上的其他可用示例以及SO,我仍然不知道如何使用continuation来解决这个问题

下面是通用的完整代码,但在执行DFSLoop1和内部递归函数DFSsub时它已经失败了。我认为我没有使函数tail递归[因为指令

t<-t+1
G.[n].finishingtime <- t

?]

但我不明白如何正确实施延续。

当仅考虑失败的部分时,DFSLoop1将我们将应用深度优先搜索的图形作为参数。我们需要记录完成时间作为算法的一部分,以便在第二个DFS循环(DFSLoop2)中进入算法的第二部分[当然我们在此之前失败]。

open System
open System.Collections.Generic
open System.IO

let x = File.ReadAllLines "C:\Users\Fagui\Documents\GitHub\Learning Fsharp\Algo Stanford I\PA 4 - SCC.txt";;
// let x = File.ReadAllLines "C:\Users\Fagui\Documents\GitHub\Learning Fsharp\Algo Stanford I\PA 4 - test1.txt";;
// val x : string [] =

let splitAtTab (text:string)=
    text.Split [|'\t';' '|]

let splitIntoKeyValue (A: int[]) = 
    (A.[0], A.[1])

let parseLine (line:string)=
    line
    |> splitAtTab
    |> Array.filter (fun s -> not(s=""))
    |> Array.map (fun s-> (int s))
    |> splitIntoKeyValue

let y =
    x |> Array.map parseLine
 //val it : (int * int) [] 

type Children = int[]
type Node1 =  
     {children : Children ;
      mutable finishingtime : int ;
      mutable explored1 : bool ; 
      }

type Node2 = 
     {children : Children ;
      mutable leader : int ;
      mutable explored2 : bool ; 
      }

type DFSgraphcore    = Dictionary<int,Children>
let directgraphcore  = new DFSgraphcore()
let reversegraphcore = new DFSgraphcore()

type DFSgraph1    = Dictionary<int,Node1>
let reversegraph1 = new DFSgraph1()

type DFSgraph2    = Dictionary<int,Node2>
let directgraph2  = new DFSgraph2()

let AddtoGraph (G:DFSgraphcore) (n,c) = 
    if not(G.ContainsKey n) then 
                              let node = [|c|]
                              G.Add(n,node)
                            else
                               let c'= G.[n]
                               G.Remove(n) |> ignore
                               G.Add (n, Array.append c' [|c|])

let inline swaptuple (a,b) = (b,a)
y|> Array.iter (AddtoGraph directgraphcore)
y|> Array.map swaptuple |> Array.iter (AddtoGraph reversegraphcore)

for i in directgraphcore.Keys do
    if reversegraphcore.ContainsKey(i) then do

               let node = {children = reversegraphcore.[i] ;
                           finishingtime = -1 ;
                           explored1 = false ;
                           }
               reversegraph1.Add (i,node)

        else                                   
               let node = {children = [||] ;
                           finishingtime = -1 ;
                           explored1 = false ;
                           }
               reversegraph1.Add (i,node)

directgraphcore.Clear  |> ignore
reversegraphcore.Clear |> ignore

// for i in reversegraph1.Keys do printfn "%d %A" i reversegraph1.[i].children
printfn "pause"
Console.ReadKey() |> ignore

let num_nodes =
    directgraphcore |> Seq.length


let DFSLoop1 (G:DFSgraph1)  = 
     let mutable t = 0
     let mutable s = -1
     let mutable k = num_nodes

     let rec DFSsub (G:DFSgraph1)(n:int) (cont:int->int) =
     //how to make it tail recursive ???

          G.[n].explored1 <- true
          // G.[n].leader <- s
          for j in G.[n].children do
                       if not(G.[j].explored1) then DFSsub G j cont
          t<-t+1
          G.[n].finishingtime <- t  

     // end of DFSsub

     for i in num_nodes .. -1 .. 1 do
        printfn "%d" i
        if not(G.[i].explored1) then do 
                                    s <- i
                                    ( DFSsub G i (fun s -> s) ) |> ignore
     //   printfn "%d %d" i G.[i].finishingtime

DFSLoop1 reversegraph1

printfn "pause"
Console.ReadKey() |> ignore

for i in directgraphcore.Keys do
    let node = {children = 
                       directgraphcore.[i]
                       |> Array.map (fun k -> reversegraph1.[k].finishingtime)  ;
                leader = -1 ;
                explored2= false ;
                }
    directgraph2.Add (reversegraph1.[i].finishingtime,node)

let z = 0

let DFSLoop2 (G:DFSgraph2)  = 
     let mutable t = 0
     let mutable s = -1
     let mutable k = num_nodes

     let rec DFSsub (G:DFSgraph2)(n:int) (cont:int->int) =

          G.[n].explored2 <- true
          G.[n].leader <- s
          for j in G.[n].children do
                       if not(G.[j].explored2) then DFSsub G j cont
          t<-t+1
          // G.[n].finishingtime <- t  

     // end of DFSsub

     for i in num_nodes .. -1 .. 1 do
        if not(G.[i].explored2) then do 
                                    s <- i
                                    ( DFSsub G i (fun s -> s) ) |> ignore
       // printfn "%d %d" i G.[i].leader

DFSLoop2 directgraph2

printfn "pause"
Console.ReadKey() |> ignore


let table = [for i in directgraph2.Keys do yield directgraph2.[i].leader]
let results = table |> Seq.countBy id |> Seq.map snd |> Seq.toList |> List.sort |> List.rev
printfn "%A" results

printfn "pause"
Console.ReadKey() |> ignore

这是一个带有简单图形示例的文本文件

1 4
2 8
3 6
4 7
5 2
6 9
7 1
8 5
8 6
9 7
9 3

(引起溢出的那个是70Mo大,有大约900,000个节点)

修改

首先澄清一些事情 这是&#34;伪代码&#34;

输入:相邻列表表示中的有向图G =(V,E)。假设顶点V被标记 1,2,3 ,. 。 。 ,n。 1.在所有弧的方向反转之后,让Grev表示图G. 2.在Grev上运行DFS-Loop子程序,根据给定的顺序处理顶点,得到一个 每个顶点的完成时间f(v)v∈V。 3.在G上运行DFS-Loop子程序,按f(v)的降序处理顶点,以指定一个领导者 到每个顶点v∈V。 4. G的强连通分量对应于共享共同领导者的G的顶点。 图2 :我们SCC算法的最高级别。 f值和领导者在第一和第二中计算 分别调用DFS-Loop(见下文)。

输入:相邻列表表示中的有向图G =(V,E)。 1.将全局变量t初始化为0。 [这记录了已经完全探索过的顶点数量。] 2.将全局变量s初始化为NULL。 [这会跟踪调用最后一个DFS调用的顶点。] 3.对于i = n downto 1: [在第一次调用中,顶点标记为1,2,.... 。 。 ,n任意。在第二个调用中,顶点标记为 第一次通话时的f(v)值。] (a)如果我还没有探讨过: 一世。设s:= i II。 DFS(G,i) 图3 :DFS-Loop子例程。

输入:有向图G =(V,E),在邻接列表表示中,以及源顶点i∈V。 把我标记为探索。 [它仍然在DFS-Loop调用的整个持续时间内进行探索。] 2.设置领导者(i):= s 3.对于每个弧(i,j)∈G: (a)如果尚未探讨: 一世。 DFS(G,j) 4. t + + 5.设置f(i):= t 图4 :DFS子例程。只需要在第一次调用DFS-Loop时计算f值,并且 只需要在第二次调用DFS-Loop期间计算领导者值。

修改 我已经修改了代码,在经验丰富的程序员(一个没有F#经验的lisper)的帮助下,在某种程度上简化了第一部分,以便更快地获得一个示例而不必为此讨论打扰不相关的代码。

代码只关注算法的一半,运行DFS一次以获得反转树的完成时间。

这是代码的第一部分,只是为了创建一个小例子 y是原始树。元组的第一个元素是父元素,第二个元素是子元素。但我们将使用反向树

open System
open System.Collections.Generic
open System.IO

let x = File.ReadAllLines "C:\Users\Fagui\Documents\GitHub\Learning Fsharp\Algo Stanford I\PA 4 - SCC.txt";;
// let x = File.ReadAllLines "C:\Users\Fagui\Documents\GitHub\Learning Fsharp\Algo Stanford I\PA 4 - test1.txt";;
// val x : string [] =

let splitAtTab (text:string)=
    text.Split [|'\t';' '|]

let splitIntoKeyValue (A: int[]) = 
    (A.[0], A.[1])

let parseLine (line:string)=
    line
    |> splitAtTab
    |> Array.filter (fun s -> not(s=""))
    |> Array.map (fun s-> (int s))
    |> splitIntoKeyValue

// let y =
//    x |> Array.map parseLine

//let y =
//   [|(1, 4); (2, 8); (3, 6); (4, 7); (5, 2); (6, 9); (7, 1); (8, 5); (8, 6);
//    (9, 7); (9, 3)|]

// let y = Array.append [|(1,1);(1,2);(2,3);(3,1)|] [|for i in 4 .. 10000 do yield (i,4)|] 
let y = Array.append [|(1,1);(1,2);(2,3);(3,1)|] [|for i in 4 .. 99999 do yield (i,i+1)|] 



 //val it : (int * int) [] 

type Children = int list
type Node1 =  
     {children : Children ;
      mutable finishingtime : int ;
      mutable explored1 : bool ; 
      }

type Node2 = 
     {children : Children ;
      mutable leader : int ;
      mutable explored2 : bool ; 
      }

type DFSgraphcore    = Dictionary<int,Children>
let directgraphcore  = new DFSgraphcore()
let reversegraphcore = new DFSgraphcore()

type DFSgraph1    = Dictionary<int,Node1>
let reversegraph1 = new DFSgraph1()

let AddtoGraph (G:DFSgraphcore) (n,c) = 
    if not(G.ContainsKey n) then 
                              let node = [c]
                              G.Add(n,node)
                            else
                               let c'= G.[n]
                               G.Remove(n) |> ignore
                               G.Add (n, List.append c' [c])

let inline swaptuple (a,b) = (b,a)
y|> Array.iter (AddtoGraph directgraphcore)
y|> Array.map swaptuple |> Array.iter (AddtoGraph reversegraphcore)

// définir reversegraph1 = ... with....
for i in reversegraphcore.Keys do
    let node = {children = reversegraphcore.[i] ;
                           finishingtime = -1 ;
                           explored1 = false ;
                           }
    reversegraph1.Add (i,node)

for i in directgraphcore.Keys do
    if not(reversegraphcore.ContainsKey(i)) then do                                 
               let node = {children = [] ;
                           finishingtime = -1 ;
                           explored1 = false ;
                           }
               reversegraph1.Add (i,node)

directgraphcore.Clear  |> ignore
reversegraphcore.Clear |> ignore

// for i in reversegraph1.Keys do printfn "%d %A" i reversegraph1.[i].children
printfn "pause"
Console.ReadKey() |> ignore

let num_nodes =
    directgraphcore |> Seq.length
因此,基本上该图是(1-> 2-> 3-> 1)::( 4-> 5-> 6-> 7-> 8-> .... - &GT; 99999-&GT; 10000) 反向图是(1-> 3-> 2-> 1)::(10000-> 9999-> ......-> 4)

这是用直接样式编写的主要代码

//////////////////// main code is below ///////////////////

let DFSLoop1 (G:DFSgraph1)  = 
     let mutable t =  0 
     let mutable s =  -1

     let rec iter (n:int) (f:'a->unit) (list:'a list) : unit = 
         match list with 
            | [] -> (t <- t+1) ; (G.[n].finishingtime <- t)
            | x::xs -> f x ; iter n f xs      
     let rec DFSsub (G:DFSgraph1) (n:int) : unit =  
          let my_f (j:int) : unit = if not(G.[j].explored1) then (DFSsub G j) 
          G.[n].explored1 <- true         
          iter n my_f G.[n].children 

     for i in num_nodes .. -1 .. 1 do
        // printfn "%d" i
        if not(G.[i].explored1) then do 
                                    s <- i
                                    DFSsub G i                                                         

        printfn "%d %d" i G.[i].finishingtime

// End of DFSLoop1


DFSLoop1 reversegraph1

printfn "pause"
Console.ReadKey() |> ignore

它不是尾递归,所以我们使用continuation,这里是适用于CPS风格的相同代码:

//////////////////// main code is below ///////////////////
let DFSLoop1 (G:DFSgraph1)  = 
     let mutable t =  0 
     let mutable s =  -1

     let rec iter_c (n:int) (f_c:'a->(unit->'r)->'r) (list:'a list) (cont: unit->'r) : 'r = 
         match list with 
            | [] -> (t <- t+1) ; (G.[n].finishingtime <- t) ; cont()
            | x::xs -> f_c x (fun ()-> iter_c n f_c xs cont)
     let rec DFSsub (G:DFSgraph1) (n:int) (cont: unit->'r) : 'r=  
          let my_f_c (j:int)(cont:unit->'r):'r = if not(G.[j].explored1) then (DFSsub G j cont) else cont()
          G.[n].explored1 <- true         
          iter_c n my_f_c G.[n].children cont


     for i in maxnum_nodes .. -1 .. 1 do
       // printfn "%d" i
        if not(G.[i].explored1) then do 
                                    s <- i
                                    DFSsub G i id                                                         

        printfn "%d %d" i G.[i].finishingtime


DFSLoop1 reversegraph1
printfn "faré"
printfn "pause"
Console.ReadKey() |> ignore

两个代码都编译并为小例子(评论中的一个)或我们正在使用的同一个树提供相同的结果,具有较小的尺寸(1000而不是100000)

所以我不认为这是算法中的一个错误,我们有相同的树形结构,只有一棵大树才会造成问题。在我们看来,延续写得很好。我们明确地输入了代码。并且在所有情况下所有通话都以延续结束......

我们正在寻找专家建议!谢谢!!!

3 个答案:

答案 0 :(得分:5)

我没有尝试理解整个代码片段,因为它相当长,但你肯定需要用继续传递样式实现的迭代替换for循环。类似的东西:

let rec iterc f cont list =
  match list with 
  | [] -> cont ()
  | x::xs -> f x (fun () -> iterc f cont xs)

我在cont函数中没有理解DFSub的目的(它永远不会被调用,是吗?),但基于延续的版本看起来大致如下:

let rec DFSsub (G:DFSgraph2)(n:int) cont =
  G.[n].explored2 <- true
  G.[n].leader <- s
  G.[n].children 
  |> iterc 
      (fun j cont -> if not(G.[j].explored2) then DFSsub G j cont else cont ()) 
      (fun () -> t <- t + 1)

答案 1 :(得分:2)

当您通过数十万个条目进行递归时,溢出堆栈确实不错。许多编程语言实现会阻止更短的递归。你有严重的程序员问题 - 没什么可羞耻的!

现在,如果你想进行比你的实现更好的递归,你需要转换你的算法,使其迭代和/或尾递归(两者是同构的 - 除了尾递归允许分散和模块化,而迭代是集中的,非模块化的。)

要将算法从递归转换为尾递归(这是一项重要的技能),您需要了解隐式存储在堆栈帧中的状态,即函数体中那些在递归中发生变化的自由变量,并将它们显式存储在FIFO队列中(复制堆栈的数据结构,并且可以作为链表实现。)然后,您可以将该链接的已知帧变量列表作为参数传递给尾递归函数。

在更高级的情况下,你有许多尾递归函数,每个函数都有不同类型的帧,而不是简单的自递归,你可能需要为已知的堆栈帧定义一些相互递归的数据类型,而不是使用列表。但我相信Kosaraju的算法只涉及自递归函数。

答案 2 :(得分:0)

好的,所以上面给出的代码是正确的代码! 问题在于F#的编译器

这里有一些来自微软的话 http://blogs.msdn.com/b/fsharpteam/archive/2011/07/08/tail-calls-in-fsharp.aspx

基本上,要小心设置,在默认模式下,编译器可能不会自动进行尾调用。为此,在VS2015中,转到解决方案资源管理器,右键单击鼠标并单击&#34;属性&#34; (滚动列表的最后一个元素) 然后在新窗口中,单击&#34; Build&#34;并勾选方框&#34;生成尾调用#34;

还要检查编译器是否在使用反汇编查看反汇编 程序Ildasm.exe

你可以在我的github存储库中找到整个算法的源代码

https://github.com/FaguiCurtain/Learning-Fsharp/blob/master/Algo%20Stanford/Algo%20Stanford/Kosaraju_cont.fs

从表现的角度来看,我并不十分满意。代码在我的笔记本电脑上运行36秒。从与其他MOOCer同行的论坛中,C / C ++ / C#通常在亚秒到5秒,Java大约10-15,Python大约20-30s执行。 所以我的实现显然没有优化。我现在很高兴听到让它更快的技巧!谢谢!!!!