Java中HDFS配置的用途是什么?

时间:2015-12-18 08:14:52

标签: hadoop hdfs

我对HDFS Java API感到困惑,尤其是hadoop Configuration对我们在hadoop服务器上安装的配置的作用( /etc/hadoop/core-site.xml ,等)。

  1. 我应该在每个使用hdfs的java客户端程序中安装hadoop吗?
  2. 从Java客户端设置的任何配置是否会影响它与hadoop服务器(hdfs服务器)的通信方式?

1 个答案:

答案 0 :(得分:0)

  1. 否。在每个Java客户端中,您只应导入hdfs Java包。
  2. 示例:

    public class HdfsTest {
        //download file from hdfs
        public static void main(String[] args) throws Exception {
            Configuration conf = new Configuration();
            conf.set("fs.defaultFS", "hdfs://yourHadoopIP:9000/");
            conf.set("dfs.blocksize", "64");
    
            //to get a client of the hdfs system
            FileSystem fs = FileSystem.get(conf);
            fs.copyToLocalFile(new Path("hdfs://yourHadoopIP:9000/jdk-7u65-linux-i586.tar.gz"), new Path("/root/jdk.tgz"));
            fs.close(); 
        }
    }