有没有办法在Python中快速移动许多文件?

时间:2010-10-09 07:31:06

标签: python file move performance shutil

我有一个小脚本可以在我的照片集中移动文件,但运行速度有点慢。

我认为这是因为我一次只做一个文件。如果我同时将所有文件从一个目录移动到另一个目录,我猜我可以加快速度。有没有办法做到这一点?

如果这不是我缓慢的原因,我怎么能加快速度呢?

更新

我认为我的问题不被理解。也许,列出我的源代码将有助于解释:

# ORF is the file extension of the files I want to move;
# These files live in dirs shared by JPEG files,
# which I do not want to move.
import os
import re
from glob import glob
import shutil

DIGITAL_NEGATIVES_DIR = ...
DATE_PATTERN = re.compile('\d{4}-\d\d-\d\d')

# Move a single ORF.
def move_orf(src):
    dir, fn = os.path.split(src)
    shutil.move(src, os.path.join('raw', dir))

# Move all ORFs in a single directory.
def move_orfs_from_dir(src):
    orfs = glob(os.path.join(src, '*.ORF'))
    if not orfs:
        return
    os.mkdir(os.path.join('raw', src))
    print 'Moving %3d ORF files from %s to raw dir.' % (len(orfs), src)
    for orf in orfs:
        move_orf(orf)

# Scan for dirs that contain ORFs that need to be moved, and move them.
def main():
    os.chdir(DIGITAL_NEGATIVES_DIR)
    src_dirs = filter(DATE_PATTERN.match, os.listdir(os.curdir))
    for dir in src_dirs:
        move_orfs_from_dir(dir)

if __name__ == '__main__':
    main()

3 个答案:

答案 0 :(得分:4)

你在哪个平台上?它真的必须是Python吗?如果没有,您可以简单地使用mv(* nix)或move(windows)等系统工具。

$ stat -c "%s" file
382849574

$ time python -c 'import shutil;shutil.move("file","/tmp")'

real    0m29.698s
user    0m0.349s 
sys     0m1.862s 

$ time mv file /tmp

real    0m29.149s
user    0m0.011s 
sys     0m1.607s 

$ time python -c 'import shutil;shutil.move("file","/tmp")'

real    0m30.349s
user    0m0.349s 
sys     0m2.015s 

$ time mv file /tmp

real    0m28.292s
user    0m0.015s 
sys     0m1.702s 

$ cat test.py
#!/usr/bin/env python
import shutil
shutil.move("file","/tmp")
shutil.move("/tmp/file",".")

$ cat test.sh
#!/bin/bash
mv file /tmp
mv /tmp/file .

# time python test.py

real    1m1.175s
user    0m0.641s
sys     0m4.110s

$ time bash test.sh

real    1m1.040s
user    0m0.026s
sys     0m3.242s

$ time python test.py

real    1m3.348s
user    0m0.659s
sys     0m4.024s

$ time bash test.sh

real    1m1.740s
user    0m0.017s
sys     0m3.276s

答案 1 :(得分:3)

修改

在我自己混乱的状态下(JoshD帮助补救),我忘记shutil.move接受目录,因此您可以(并且应该)只使用它来批量移动您的目录。

答案 2 :(得分:1)

如果您只想移动目录,可以使用shutil.move。它会非常快速(如果它在同一个文件系统上),因为它只是一个重命名操作。