Firrtl用大量输入耗尽堆内存

时间:2018-11-11 01:22:13

标签: jvm out-of-memory chisel

我试图对110MB的Firrtl文件运行verilog编译器传递,尽管给它提供了一个宽敞的12G堆空间,但我一直在摆脱内存错误。似乎问题出在解析器,特别是ANTLR,使得数组列表过多。对于Firrtl电路定义,认为110MB太大了吗?

该文件是由Chisel通过Firrtl和--compiler=high生成的。我的Firrtl版本是1.2-SNAPSHOT(本地构建),而Chisel是3.2-SNAPSHOT(也是本地构建)。

$ JAVA_OPTS="-Xms8G -Xmx12G" ../firrtl/utils/bin/firrtl -i mnist_cnn_v4.fir -o mnist_cnn_v4.v -X verilog --no-check-comb-loops --no-dce --info-mode=ignore -ll Trace
> Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
    at java.base/java.util.Arrays.copyOf(Arrays.java:3688)
    at java.base/java.util.ArrayList.grow(ArrayList.java:236)
    at java.base/java.util.ArrayList.grow(ArrayList.java:241)
    at java.base/java.util.ArrayList.add(ArrayList.java:466)
    at java.base/java.util.ArrayList.add(ArrayList.java:479)
    at org.antlr.v4.runtime.ParserRuleContext.addAnyChild(ParserRuleContext.java:134)
    at org.antlr.v4.runtime.ParserRuleContext.addChild(ParserRuleContext.java:145)
    at org.antlr.v4.runtime.Parser.consume(Parser.java:584)
    at firrtl.antlr.FIRRTLParser.intLit(FIRRTLParser.java:2870)
    at firrtl.antlr.FIRRTLParser.type(FIRRTLParser.java:600)
    at firrtl.antlr.FIRRTLParser.field(FIRRTLParser.java:740)
    at firrtl.antlr.FIRRTLParser.type(FIRRTLParser.java:647)
    at firrtl.antlr.FIRRTLParser.field(FIRRTLParser.java:740)
    at firrtl.antlr.FIRRTLParser.type(FIRRTLParser.java:647)
    at firrtl.antlr.FIRRTLParser.field(FIRRTLParser.java:740)
    at firrtl.antlr.FIRRTLParser.type(FIRRTLParser.java:647)
    at firrtl.antlr.FIRRTLParser.port(FIRRTLParser.java:418)
    at firrtl.antlr.FIRRTLParser.module(FIRRTLParser.java:287)
    at firrtl.antlr.FIRRTLParser.circuit(FIRRTLParser.java:189)
    at firrtl.Parser$.$anonfun$parseCharStream$1(Parser.scala:42)
    at firrtl.Parser$$$Lambda$94/1642030774.apply(Unknown Source)
    at firrtl.Utils$.time(Utils.scala:186)
    at firrtl.Parser$.parseCharStream(Parser.scala:33)
    at firrtl.Parser$.parseFile(Parser.scala:25)
    at firrtl.Driver$.$anonfun$getCircuit$5(Driver.scala:200)
    at firrtl.Driver$$$Lambda$93/1571967156.apply(Unknown Source)
    at scala.Option.getOrElse(Option.scala:121)
    at firrtl.Driver$.$anonfun$getCircuit$3(Driver.scala:183)
    at firrtl.Driver$$$Lambda$91/802600647.apply(Unknown Source)
    at scala.Option.getOrElse(Option.scala:121)
    at firrtl.Driver$.$anonfun$getCircuit$1(Driver.scala:183)
    at firrtl.Driver$$$Lambda$88/2041416495.apply(Unknown Source)

1 个答案:

答案 0 :(得分:3)

这是解析器的已知限制,有两种解决方法,如Jack中的this comment所建议:

  1. 使用protobuf作为Chisel和FIRRTL之间的接口。代替使用chisel3.Driver.dumpFirrtl,而使用chisel3.Driver.dumpProto。 FIRRTL命令行实用程序将自动将.pb文件推断为protobuf,并使用与ANTLR解析器相对应的适当的反序列化器。

  2. 使用chisel3.Driver直接调用FIRRTL,而不使用FIRRTL命令行实用程序。这仍然会导致发出FIRRTL供您检查,但是在内部,Chisel表示形式将直接转换为FIRRTL,而无需进行解析。试试:

val args = Array("-o", "mnist_cnn_v4.v",
                 "-X", "verilog",
                 "--no-check-comb-loops",
                 "--no-dce",
                 "--info-mode=ignore",
                 "-ll Trace")

chisel3.Driver.execute(args, () => new Foo) /* change Foo to your top module */

Chisel3#829中添加了后者的内存中转换,并在FIRRTL#832中添加了protobuf支持。 Jack在reading a 420MB FIRRTL file using different methods处引用了一些实验。总之,如果您的FIRRTL文件很大,请尝试避免使用解析器。