用于创建HDFS目录和配额设置的自动shell脚本

时间:2016-08-18 11:49:02

标签: unix hadoop hdfs

我在hortonworks中有一个群集设置,其中包含ambari 2.1和HDP 2.3。我必须创建一个自动脚本来创建HDFS目录和配额设置。任何人都有任何与此相关的脚本或任何类型的建议,请在此处发布。

2 个答案:

答案 0 :(得分:1)

以下是我的剧本:

var locations = [
[
    "New Mermaid",
    36.9079,
    -76.199,
    1,
    "Georgia Mason",
    "",
    "Norfolk Botanical Gardens, 6700 Azalea Garden Rd.",
    "coming soon"
],
[
    "1950 Fish Dish",
    36.87224,
    -76.29518,
    2,
    "Terry Cox-Joseph",
    "Rowena's",
    "758 W. 22nd Street in front of Rowena's",
    "found"
]]




var marker, i;
for (i = 0; i < locations.length; i++) {
    marker = new google.maps.Marker({
    position: new google.maps.LatLng(locations[i][1], locations[i][2]),
    map: map
});

google.maps.event.addListener(marker, 'click', (function (marker, i) {
    return function () {
        infowindow.setContent(locations[i][0], locations[i][6]);
        infowindow.open(map, marker);
    }
})(marker, i));

我通过#!/bin/bash read -p "Enter UserName: " username echo "Welcome $username!" read -s -p "Enter Password: " pswd echo $pswd hdfs dfs -mkdir /$1 hdfs dfs -mkdir /$2 hdfs dfs -mkdir /$3 hdfs dfs -chown hdfs:hdfs /$1 hdfs dfs -chown hdfs:hdfs /$2 hdfs dfs -chown hdfs:hdfs /$3 hdfs dfs -chmod 775 /$1 hdfs dfs -chmod 775 /$2 hdfs dfs -chmod 775 /$3 hdfs dfsadmin -setSpaceQuota 1024m /$1 hdfs dfsadmin -setSpaceQuota 1024m /$2 hdfs dfsadmin -setSpaceQuota 1024m /$3

在shell上运行它

答案 1 :(得分:0)

我刚刚对HDFS进行了快速阅读,发现一些可能有用的页面并且使用shell脚本就足够了。

可以使用以下方式添加新目录:

hdfs hdfs dfs -mkdir /directory_name

更改配额可以通过以下方式完成:

hdfs hdfs dfsadmin -setSpaceQuota 1k /directory_name

现在,如果我们将上述内容合并到一个脚本中,请说&#34; create_and_set_quota.sh&#34;并通过./create_and_set_quota.sh mydirname在shell上运行它,内容如下:

hdfs hdfs dfs -mkdir /$1
hdfs hdfs dfsadmin -setSpaceQuota 1024m /$1

应创建目录并设置配额。以下是一些包含示例和匹配讨论的页面:

Set quotas for users

Create a directory and set quota, this is the base of the above code.

More hdfs commands