Question

我写了一个我要调试的地图缩减代码。

为了做到这一点，我无法使用标准输出，因为除非发生错误，否则Hadoop平台不会将其打印到屏幕上。

相反，我试图使用logger，以创建日志文件。

我使用处理程序将其拆分为两个文件，遗憾的是，“严重”日志文件为空，一般日志文件仅记录主线程中发生的事情，而不记录映射reduce函数。

问题如下：

hadoop和日志文件是否有问题，或者我的记录器配置是否有问题？如果是这样，如何纠正它。

日志配置代码：我在整个应用程序中使用一个记录器（这次是根记录器）

public static Logger configureLogging() 
    {
        try
        {
            logger=Logger.getLogger("");
            //FileSystem hdfs=FileSystem.get(URI.create(Misc.S3FS),getConfiguration());
            logger.setLevel(Level.ALL);

            //StreamHandler handler=new StreamHandler(hdfs.create(new Path(Misc.LOGS_PATH+"mylog.log")),new SimpleFormatter());
            FileHandler handler=new FileHandler(Misc.LOGS_PATH+"mylog.xml",true);   
            FileHandler severeHandler=new FileHandler(Misc.LOGS_PATH+"mylogSevere.xml",true);
            severeHandler.setLevel(Level.INFO);
            logger.addHandler(handler);
            logger.addHandler(severeHandler);

        }
        catch (Exception e) 
        {
            e.printStackTrace();
        }
        return logger;

    }

Answer 1

Hadoop附带预配置的log4j。您所要做的就是导入两个类：

import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory;

现在你可以在你的地图制作器，缩减器和你想要的任何地方定义记录器：

private static final Log LOG = LogFactory.getLog(MyClass.class);

并记录您需要的内容：

LOG.info("My message");

在作业执行期间将显示消息。您可以使用

调整log4j配置

conf/log4j.properties

如何在使用hadoop时使用logger api编写java日志文件

1 个答案: