运行一些Pig作业,我注意到日志中的以下行:
[main] INFO org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.JobControlCompiler
- mapred.job.reduce.markreset.buffer.percent is not set, set to default 0.3
但是,Google搜索没有透露有关参数mapred.job.reduce.markreset.buffer.percent
的含义的任何信息。有人知道它的用途吗?
答案 0 :(得分:1)
来自mapred-default.xml documentation:
内存百分比 - 相对于最大堆大小 - 用于在使用标记重置功能时缓存值。
请注意,这指的是名为mapreduce.reduce.markreset.buffer.percent
的属性。 Hadoop,mapred和mapreduce中有两个API。有关其差异的信息,请参阅this question。
我不确定这个特殊的属性,但我的猜测是你使用的旧版本的Hadoop没有更新属性的名称,或者猪开发人员犯了错误并输入了&# 34; mapred"而不是" mapreduce" (这就是为什么你发现财产没有设置的原因)。在任何一种情况下,我认为你可以确信这意味着我从文档中引用的内容。