有效地列出包含很多条目的目录中的文件

时间:2015-12-29 14:51:27

标签: go

我需要以递归方式读取目录结构,但是在读完每个目录的所有条目后,我还需要执行一个额外的步骤。因此,我需要编写自己的递归逻辑(并且不能使用简单的filepath.Walk例程)。但是,ioutil.ReadDirfilepath.Glob例程仅返回切片。如果我推动 ext4 xfs 的限制并将文件编号为数十亿的目录怎么办?我希望 golang 能够在一个通道而不是一个排序的切片上返回一个未排序的os.FileInfo系列(或更好的原始字符串)。在这种情况下,我们如何有效地读取文件条目?

上面提到的所有功能似乎都依赖于 os / dir_unix.go 中的readdirnames,并且出于某种原因,它只是在它看起来像#时才会生成一个数组# 39;很容易产生 gothread 并将值推送到频道中。可能有合理的逻辑来做到这一点,但它不清楚它是什么。我是Go的新手,所以我也很容易错过了一些对其他人都很明显的原则。

这是源代码,为方便起见:

func (f *File) readdirnames(n int) (names []string, err error) {
    // If this file has no dirinfo, create one.
    if f.dirinfo == nil {
        f.dirinfo = new(dirInfo)
        // The buffer must be at least a block long.
        f.dirinfo.buf = make([]byte, blockSize)
    }
    d := f.dirinfo

    size := n
    if size <= 0 {
        size = 100
        n = -1
    }

    names = make([]string, 0, size) // Empty with room to grow.
    for n != 0 {
        // Refill the buffer if necessary
        if d.bufp >= d.nbuf {
            d.bufp = 0
            var errno error
            d.nbuf, errno = fixCount(syscall.ReadDirent(f.fd, d.buf))
            if errno != nil {
                return names, NewSyscallError("readdirent", errno)
            }
            if d.nbuf <= 0 {
                break // EOF
            }
        }

        // Drain the buffer
        var nb, nc int
        nb, nc, names = syscall.ParseDirent(d.buf[d.bufp:d.nbuf], n, names)
        d.bufp += nb
        n -= nc
    }
    if n >= 0 && len(names) == 0 {
        return names, io.EOF
    }
    return names, nil
}

1 个答案:

答案 0 :(得分:3)

ioutil.ReadDirfilepath.Glob只是阅读目录条目的便利功能。

如果您提供n参数&gt;,则可以直接使用ReaddirReaddirnames方法批量读取目录条目。 0

对于像读取目录条目这样基本的东西,不需要添加goroutine和channel的开销,还提供了一种返回错误的替代方法。如果愿意,您始终可以使用自己的goroutine和频道模式包装批量呼叫。