什么样的gridmix输入格式喜欢?

时间:2019-03-07 09:10:59

标签: mapreduce benchmarking hadoop2

我使用的是Rumen我的工作历史文件,其中包含job-trace.json和job-topology.json。 GirdMix的用法喜欢:

$HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/share/hadoop/tools/lib/hadoop-gridmix-2.7.3.jar -libjars $HADOOP_HOME/share/hadoop/tools/lib/hadoop-rumen-2.7.3.jar -Dgridmix.compression-emulation.enable=false <iopath> <trace>

并且,它表示Gridmix的工作目录,因此我输入:file:///home/hadoop/input,表示从日志文件中提取的跟踪文件,并输入file:///home/hadoop/rumen/job-trace-1hr.json

最后,遇到以下例外情况:

2019-03-07 16:37:12,495 ERROR [main] gridmix.Gridmix (Gridmix.java:start(534)) - Startup failed. java.io.IOException: Found no satisfactory file in file:/home//hadoop/input
2019-03-07 16:37:13,040 INFO  [main] util.ExitUtil (ExitUtil.java:terminate(124)) - Exiting with status 2
2019-03-07 16:37:13,041 INFO  [Thread-1] gridmix.Gridmix (Gridmix.java:run(657)) - Exiting...

那么此参数是什么样的,或如何使用?

有人可以提出一些想法吗?

谢谢。

1 个答案:

答案 0 :(得分:0)

我发现这是我自己的错误用法; 由于输入数据太小,我检查了gridmix参数的用法。

gridmix.min.file.size   |  The minimum size of the input files. The default limit is 128 MiB. Tweak this parameter if you see an error-message like "Found no satisfactory file" while testing GridMix with a relatively-small input data-set.

因此,我调整了较大的输入数据。 使用-generate 10G。

谢谢。