Java API操作HDFS(HA模式)

大数据AI

共 5040字,需浏览 11分钟

 ·

2021-08-22 08:28

Java API 操作HDFS一般有两种方式:

  1. 使用HDFS客户端配置文件自动配置

  2. Java 代码中配置

一、使用HDFS客户端配置

1、下载HDFS客户端配置

2、创建Maven项目

创建Maven项目,将下载的客户端配置文件 core-site.xmlhdfs-site.xml 放入resources目录下(注意:放到 resources根目录下)

3、HDFS API编写

HDFSTest.java

package com.song.example;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

import java.io.IOException;

public class HDFSTest {

    public static void main(String[] args) {
        // 设置操作HDFS的用户
        System.setProperty("HADOOP_USER_NAME""song");
        FileSystem fs;
        // 从 resources 目录下自动加载配置
        Configuration conf = new Configuration();
        try {
            fs = FileSystem.newInstance(conf);
            fs.mkdirs(new Path("/user/song/test"));
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

二、Java 代码配置

使用Java代码进行配置,则就不需要下载HDFS客户端配置文件了

HDFSTest.java

package com.song.example;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

import java.io.IOException;

public class HDFSTest {

    public static void main(String[] args) {
        // 设置操作HDFS的用户
        System.setProperty("HADOOP_USER_NAME""song");
        FileSystem fs;
        // 在Java代码中配置Configuration
        Configuration conf = new Configuration();
        conf.set("fs.defaultFS""hdfs://nameservice1");
        conf.set("dfs.nameservices""nameservice1");
        conf.set("dfs.ha.namenodes.nameservice1""namenode34,namenode41");
        conf.set("dfs.namenode.rpc-address.nameservice1.namenode34""cdh68.bigdata.com:8020");
        conf.set("dfs.namenode.rpc-address.nameservice1.namenode41""cdh69.bigdata.com:8020");
        conf.set("dfs.client.failover.proxy.provider.nameservice1""org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");

        try {
            fs = FileSystem.newInstance(conf);
            fs.mkdirs(new Path("/user/song/testTwo"));
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

Java 代码中的配置从 hdfs-site.xml中查找:

<configuration>
  <property>
    <name>dfs.nameservices</name>
    <value>nameservice1</value>
  </property>
  <property>
    <name>dfs.client.failover.proxy.provider.nameservice1</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
      <property>
    <name>dfs.ha.namenodes.nameservice1</name>
    <value>namenode34,namenode41</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.nameservice1.namenode34</name>
    <value>cdh68.bigdata.com:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.nameservice1.namenode41</name>
    <value>cdh69.bigdata.com:8020</value>
  </property>

删除HDFS客户端配置文件:

执行结果:

三、小结

建议使用第一种:HDFS客户端配置文件进行操作HDFS, 因为当HDFS配置更改时,只需要替换配置文件即可,更加灵活。


浏览 27
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报