R中的文件锁

时间:2014-05-12 11:23:12

标签: r filesystems locking read-write

短版

我将如何阻止对文件的访问,直到一个特定的函数都涉及对该文件的读写进程已经返回?


用例

我经常想要创建某种中央注册表,并且可能有多个R进程参与读取和写入该注册表(以“穷人的并行化”设置为例,其中不同的进程彼此独立运行除了注册表访问权限)。

我希望喜欢在开发过程的早期依赖任何DBMS,例如SQLitePostgreSQLMongoDB等。即使我后来可能使用DBMS,基于文件系统的解决方案仍可能是一个方便的后备选项。因此,我很好奇我如何通过基本R功能实现它(充其量)。

我知道,与DBMS解决方案相比,在并行设置中对文件系统进行大量读写操作并不是非常有效。

我在MS Windows 8.1(64位)上运行

我想更深入地了解

当两个或多个R进程同时尝试写入或读取文件时,究竟发生了什么?操作系统是否自动找出“访问顺序”并执行“第二次”进程等待或是否会触发错误,因为第一个进程可能会阻止文件访问?我怎么能阻止第二个进程返回错误,而是“等待”直到轮到他了?

进程的共享工作空间

除了rredis包之外:MS Windows上还有其他共享内存选项吗?

插图

注册表文件的路径:

path_registry <- file.path(tempdir(), "registry.rdata")

注册事件的示例函数:

registerEvent <- function(
    id=gsub("-| |:", "", Sys.time()), 
    values, 
    path_registry
) {
    if (!file.exists(path_registry)) {
        registry <- new.env()
        save(registry, file=path_registry)
    } else {
        load(path_registry)
    }

    message("Simulated additional runtime between reading and writing (5 seconds)")
    Sys.sleep(5)

    if (!exists(id, envir=registry, inherits=FALSE)) {
        assign(id, values, registry)
        save(registry, file=path_registry)
        message(sprintf("Registering with ID %s", id))
        out <- TRUE
    } else {
        message(sprintf("ID %s already registered", id))
        out <- FALSE
    }
    out
}

已注册的示例内容:

x <- new.env()
x$a <- TRUE
x$b <- letters[1:5]

请注意,内容通常是“嵌套的”,即RDBMS无论如何都不会真正“有用”,或者至少在写入数据库之前会涉及一些规范化步骤。这就是为什么我更喜欢environment s(唯一变量ID和传递引用是可能的)而不是list s,如果有人使用真正的DBMS,我宁愿转向NoSQL方法例如MongoDB

注册周期:

实际的呼叫可能会分散在不同的进程中,因此可能会出现并发访问的尝试。

我希望其他进程/调用“等待”,直到registerEvent读写周期完成,然后再执行读写周期(不会触发错误)。

registerEvent(values=list(x_1=x, x_2=x), path_registry=path_registry)
registerEvent(values=list(x_1=x, x_2=x), path_registry=path_registry)
registerEvent(id="abcd", values=list(x_1=x, x_2=x), 
    path_registry=path_registry)
registerEvent(id="abcd", values=list(x_1=x, x_2=x), 
    path_registry=path_registry)

检查注册表内容:

load(path_registry)
ls(registry)

1 个答案:

答案 0 :(得分:2)

请参见filelock R软件包,自2018年以来可用。它是跨平台的。我在Windows上使用它,但没有发现任何问题。

请务必阅读文档。

?filelock::lock

尽管文档建议保留锁定文件,但在多进程环境中的函数出口上删除它没有问题:

on.exit({filelock::unlock(lock); file.remove(path.lock)})