mapred.job.reduce.markreset.buffer.percent的含义

时间:2014-05-20 18:18:23

标签: hadoop apache-pig datastax-enterprise datastax

运行一些Pig作业,我注意到日志中的以下行:

[main] INFO  org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.JobControlCompiler
 - mapred.job.reduce.markreset.buffer.percent is not set, set to default 0.3

但是,Google搜索没有透露有关参数mapred.job.reduce.markreset.buffer.percent的含义的任何信息。有人知道它的用途吗?

1 个答案:

答案 0 :(得分:1)

来自mapred-default.xml documentation

  

内存百分比 - 相对于最大堆大小 -   用于在使用标记重置功能时缓存值。

请注意,这指的是名为mapreduce.reduce.markreset.buffer.percent的属性。 Hadoop,mapred和mapreduce中有两个API。有关其差异的信息,请参阅this question

我不确定这个特殊的属性,但我的猜测是你使用的旧版本的Hadoop没有更新属性的名称,或者猪开发人员犯了错误并输入了&# 34; mapred"而不是" mapreduce" (这就是为什么你发现财产没有设置的原因)。在任何一种情况下,我认为你可以确信这意味着我从文档中引用的内容。