如何避免上传部分写入的文件 - 谷歌存储rsync

时间:2018-05-22 05:39:13

标签: google-cloud-storage rsync

我正在使用谷歌云存储选项rsync 我创建了一个每分钟同步文件的cronjob。 但问题出在那里 正在部分写入文件,cronjob运行,然后它同步文件的一部分,即使它没有完成。 有没有办法解决这个问题?

1 个答案:

答案 0 :(得分:2)

gsutil rsync命令无法检查文件是否仍在写入。您需要协调您的写作和rsync'ing作业,以便它们在文件树的不相交部分上运行。例如,您可以安排写入作业以写入目录A,同时rsync作业从目录B rsyncs,然后切换指针,以便在rsync作业写入目录A时写入作业写入目录B.另一个选项是设置在运行rsync作业之前复制已写入的所有文件的暂存区域。如果将它放在与编写文件系统相同的文件系统上,则可以使用硬链接,以便链接操作快速进行(无需字节复制)。