使用python的ftplib同步目录

时间:2012-01-25 19:39:02

标签: python ftp synchronization ftplib

我正在学习python并尝试编写代码来同步两个目录:一个在ftp服务器上,另一个在我的本地磁盘上。到目前为止,我写了一个工作代码,但我有一两个问题:)

import os
from ftplib import FTP

h_local_files = [] # create local dir list
h_remote_files = [] # create remote dir list

h_local = 'C:\\something\\bla\\' # local dir

ftp = FTP('ftp.server.com')
ftp.login('user', 'pass')

if os.listdir(h_local) == []:
    print 'LOCAL DIR IS EMPTY'
else:
    print 'BUILDING LOCAL DIR FILE LIST...'
    for file_name in os.listdir(h_local):
        h_local_files.append(file_name) # populate local dir list

ftp.sendcmd('CWD /some/ftp/directory')
print 'BUILDING REMOTE DIR FILE LIST...\n'
for rfile in ftp.nlst():
    if rfile.endswith('.jpg'): # i need only .jpg files
        h_remote_files.append(rfile) # populate remote dir list

h_diff = sorted(list(set(h_remote_files) - set(h_local_files))) # difference between two lists

for h in h_diff:
    with open(os.path.join(h_local,h), 'wb') as ftpfile:
        s = ftp.retrbinary('RETR ' + h, ftpfile.write) # retrieve file
        print 'PROCESSING', h
        if str(s).startswith('226'): # comes from ftp status: '226 Transfer complete.'
            print 'OK\n' # print 'OK' if transfer was successful
        else:
            print s # if error, print retrbinary's return

这段代码应该有两个python列表:本地目录中的文件列表和ftp目录中的文件列表。从列表中删除重复项后,脚本应将“缺失”文件下载到我的本地目录。

现在,这段代码正在做我需要的东西,但是我注意到当我运行它时,我的输出并不是我想象它会起作用的行为:)

例如,我当前的输出是:

PROCESSING 2012-01-17_07.05.jpg
OK

# LONG PAUSE HERE

PROCESSING 2012-01-17_07.06.jpg
OK

# LONG PAUSE HERE

PROCESSING 2012-01-17_07.06.jpg
OK

etc...

但我想它应该像这样工作:

PROCESSING 2012-01-17_07.05.jpg
# LONG PAUSE HERE (WHILE DOWNLOADING)
OK

PROCESSING 2012-01-17_07.06.jpg
# LONG PAUSE HERE (WHILE DOWNLOADING)
OK

PROCESSING 2012-01-17_07.06.jpg
# LONG PAUSE HERE (WHILE DOWNLOADING)
OK

etc...

正如我所说的,我刚刚开始学习python,也许我在这里做了一些完全错误的事情(if str(s).startswith('226') ????)。也许我只能用ftplib来达到这个目的?所以最后我的问题是:

我在这里做错了什么? :)
如何生成“正确”的输出,并且有一种方法可以在下载文件时打印某种状态(至少有一行点),例如:

PROCESSING 2012-01-17_07.05.jpg
..........
OK

PROCESSING 2012-01-17_07.06.jpg
......
OK

PROCESSING 2012-01-17_07.06.jpg
...............
OK

etc...

非常感谢你的帮助!

1 个答案:

答案 0 :(得分:3)

重试二进制块直到完成为止。这就是你立即看到Processing ZZZ\n OK的原因,因为它发生在对retrbinary的调用完成之后。

如果要为每个呼叫打印.,则需要提供回调功能来执行此操作。这是retrbinary的文档字符串:

    """Retrieve data in binary mode.  A new port is created for you.

    Args:
      cmd: A RETR command.
      callback: A single parameter callable to be called on each
                block of data read.
      blocksize: The maximum number of bytes to read from the
                 socket at one time.  [default: 8192]
      rest: Passed to transfercmd().  [default: None]

    Returns:
      The response code.
    """

因此,您需要提供一个不同的回调,它既可以写入文件,也可以打印出'。'

import sys # At the top of your module.

# Modify your retrbinary    
ftp.retrbinary('RETR ' + h, lambda s: ftpfile.write(s) and sys.stdout.write('.'))

您可能需要编辑该代码段,但它应该让您知道该怎么做。