在terminal / bash脚本中将文件夹拆分为多个子文件夹

时间:2015-03-18 07:21:49

标签: bash directory mv filestructure

我有几个文件夹,每个文件夹有15,000到40,000张照片。我希望将每个文件拆分为子文件夹 - 每个文件夹中包含2,000个文件。

有什么快速的方法可以创建我需要的每个文件夹并移动所有文件?

目前我只能找到如何将文件夹中的前x个项目移动到预先存在的目录中。为了在包含20,000个项目的文件夹上使用它...我需要手动创建10个文件夹,并运行该命令10次。

ls -1  |  sort -n | head -2000| xargs -i mv "{}" /folder/

我尝试将它放入for循环中,但是在使用mkdir正确制作文件夹时遇到了麻烦。即使我解决了这个问题,我也需要程序只为每个第20个文件创建文件夹(新组的开始)。它想为每个文件创建一个新文件夹。

那么......我怎样才能轻松地将大量文件移动到每个文件中任意数量文件的文件夹中?

任何帮助都会......非常......乐于助人!

8 个答案:

答案 0 :(得分:8)

尝试这样的事情:

for i in `seq 1 20`; do mkdir -p "folder$i"; find . -type f -maxdepth 1 | head -n 2000 | xargs -i mv "{}" "folder$i"; done

完整脚本版本:

#!/bin/bash

dir_size=2000
dir_name="folder"
n=$((`find . -maxdepth 1 -type f | wc -l`/$dir_size+1))
for i in `seq 1 $n`;
do
    mkdir -p "$dir_name$i";
    find . -maxdepth 1 -type f | head -n $dir_size | xargs -i mv "{}" "$dir_name$i"
done

答案 1 :(得分:5)

下面的代码假定文件名不包含换行符,空格,制表符,单引号,双引号或反斜杠,并且文件名不以短划线开头。它还假设IFS尚未更改,因为它使用while read而不是while IFS= read,并且因为未引用变量。在Zsh中添加setopt shwordsplit

i=1;while read l;do mkdir $i;mv $l $((i++));done< <(ls|xargs -n2000)

下面的代码假定文件名不包含换行符,并且它们不以短划线开头。 -n2000一次获取2000个参数,{#}是作业的序列号。将{#}替换为'{=$_=sprintf("%04d",$job->seq())=}',将数字填充为四位数。

ls|parallel -n2000 mkdir {#}\;mv {} {#}

以下命令假定文件名不包含换行符。它使用了Aristotle Pagaltzis的rename实现,这是Homebrew中的rename公式,其中需要-p来创建目录,其中需要--stdin来从STDIN获取路径,$N是文件的编号。在其他实现中,您可以使用$.++$::i代替$N

ls|rename --stdin -p 's,^,1+int(($N-1)/2000)."/",e'

答案 2 :(得分:3)

我会选择这样的东西:

#!/bin/bash
# outnum generates the name of the output directory
outnum=1
# n is the number of files we have moved
n=0

# Go through all JPG files in the current directory
for f in *.jpg; do
   # Create new output directory if first of new batch of 2000
   if [ $n -eq 0 ]; then
      outdir=folder$outnum
      mkdir $outdir
      ((outnum++))
   fi
   # Move the file to the new subdirectory
   mv "$f" "$outdir"

   # Count how many we have moved to there
   ((n++))

   # Start a new output directory if we have sent 2000
   [ $n -eq 2000 ] && n=0
done

答案 3 :(得分:3)

此解决方案可以处理具有空格和通配符的名称,并且可以轻松扩展以支持不太直接的树结构。它将在工作目录的所有直接子目录中查找文件,并将它们分类到这些子目录的新子目录中。新目录将命名为01等:

#!/bin/bash

maxfilesperdir=20

# loop through all top level directories:
while IFS= read -r -d $'\0' topleveldir
do
        # enter top level subdirectory:
        cd "$topleveldir"

        declare -i filecount=0 # number of moved files per dir
        declare -i dircount=0  # number of subdirs created per top level dir

        # loop through all files in that directory and below
        while IFS= read -r -d $'\0' filename
        do
                # whenever file counter is 0, make a new dir:
                if [ "$filecount" -eq 0 ]
                then
                        mkdir "$dircount"
                fi

                # move the file into the current dir:
                mv "$filename" "${dircount}/"
                filecount+=1

                # whenever our file counter reaches its maximum, reset it, and
                # increase dir counter:
                if [ "$filecount" -ge "$maxfilesperdir" ]
                then
                        dircount+=1
                        filecount=0
                fi
        done < <(find -type f -print0)

        # go back to top level:
        cd ..
done < <(find -mindepth 1 -maxdepth 1 -type d -print0)

来自another questionfind -print0 / read进程替换组合被盗。

应该注意的是,简单的globbing也可以处理各种奇怪的目录和文件名。但是,对于多级目录而言,它不易扩展。

答案 4 :(得分:3)

This solution在MacOS上为我工作:

i=0; for f in *; do d=dir_$(printf %03d $((i/100+1))); mkdir -p $d; mv "$f" $d; let i++; done

它将创建每个包含100个元素的子文件夹。

答案 5 :(得分:0)

你肯定要写一个脚本。 脚本中包含的事项提示:

首先计算源目录中的文件数

NBFiles=$(find . -type f -name *.jpg | wc -l)

将此计数除以2000并加1,以确定要创建的目录数

NBDIR=$(( $NBFILES / 2000 + 1 ))

最后循环浏览文件并将它们移动到子目录中。 你必须使用两个叠加的循环:一个用于选择和创建目标目录,另一个用于在此子目录中移动2000个文件,然后创建下一个子目录并将下一个2000个文件移动到新的等等...

答案 6 :(得分:0)

上面的答案非常有用,但是Mac(10.13.6)终端中有一个非常重要的导入点。因为xargs“ -i”参数不可用,所以我将命令从上到下更改。

ls -1 | sort -n | head -2000| xargs -I '{}' mv {} /folder/

然后,我使用下面的shell脚本(参考tmp的答案)

#!/bin/bash

dir_size=500
dir_name="folder"
n=$((`find . -maxdepth 1 -type f | wc -l`/$dir_size+1))
for i in `seq 1 $n`;
do
    mkdir -p "$dir_name$i";
    find . -maxdepth 1 -type f | head -n $dir_size | xargs -I '{}' mv {} "$dir_name$i"
done

答案 7 :(得分:0)

这是Mark Setchell的修改

用法:bash splitfiles.bash $ PWD / directoryoffiles splitsize

该脚本不需要与拆分文件位于同一目录中,它可以在所有文件上运行,而不仅限于.jpg,还可以将拆分大小指定为参数。

#!/bin/bash
# outnum generates the name of the output directory
outnum=1
# n is the number of files we have moved
n=0

if [ "$#" -ne 2 ]; then
    echo Wrong number of args
    echo Usage: bash splitfiles.bash $PWD/directoryoffiles splitsize
    exit 1
fi

# Go through all files in the specified directory
for f in $1/*; do
   # Create new output directory if first of new batch
   if [ $n -eq 0 ]; then
      outdir=$1/$outnum
      mkdir $outdir
      ((outnum++))
   fi
   # Move the file to the new subdirectory
   mv "$f" "$outdir"

   # Count how many we have moved to there
   ((n++))

   # Start a new output directory if current new dir is full
   [ $n -eq $2 ] && n=0
done