如何在Eclipse中运行我的MapReduce程序

Question

我在服务器上有一个hadoop环境，现在我在我的本地PC上开发，我在Eclipse中编写了一个MapReduce类（仅覆盖Mapper类），并在main方法中设置相应的配置，现在我想运行我的Eclipse中的程序，但我在“Debug As：Junit Test”中遇到问题，得到错误信息如下：

---

java.lang.Exception：方法main应该没有参数 ......

---

Java虚拟机启动器

无法找到主类：TestMapReduceDecodeAndCompressSelfSetting.class。程序将退出。

Answer 1

要在Windows机器上运行Map Reduce，您需要下载hadoop-7682 java文件。请在conf文件中引用此文件，如下所示。

config.set（“fs.file.impl”，“com.assignment.WinLocalFileSystem”）;

这里WinLocalFileSystem是java类。

附上示例代码供您参考。

Configuration config = new Configuration();
    config.set("mapreduce.input.keyvaluelinerecordreader.key.value.separator", " ");
    config.set("mapred.textoutputformat.separator", " --> ");
    config.set("fs.file.impl", "com.assignment.WinLocalFileSystem");

    String inputPath="In\\VISA_Details.csv";
    Path inPath=new Path(inputPath);
    String outputPath = "C:\\Users\\Desktop\\Hadoop Learning\\output\\run1";
    Path outPath=new Path(outputPath);

    Job job = new Job(config,"VISA: Total count on each day");
    job.setInputFormatClass(TextInputFormat.class);
    job.setOutputFormatClass(TextOutputFormat.class);

    job.setMapOutputKeyClass(Text.class);
    job.setMapOutputValueClass(Text.class);
    job.setOutputKeyClass(Text.class);
    job.setOutputValueClass(Text.class);

    job.setMapperClass(VisaMapper.class);
    job.setReducerClass(VisaReducer.class);

    FileInputFormat.setInputPaths(job, inPath );
    FileOutputFormat.setOutputPath(job, outPath);

    System.out.println(job.waitForCompletion(true));