Shell重定向和文件I / O持续时间

时间:2012-11-26 18:20:42

标签: linux bash io

我正在以三种不同的方式将一些输出重定向到一个文件,每个方法都占用不同的时间。

$ >/tmp/file ; time for i in {1..1000}; do for j in {1..1000}; do echo $i $j >> /tmp/file; done; done

real    0m33.467s
user    0m21.170s
sys     0m11.919s

$ >/tmp/file ; exec 3>/tmp/file; time for i in {1..1000}; do for j in {1..1000}; do echo $i $j >&3; done; done; exec 3>&-

real    0m24.211s
user    0m17.181s
sys     0m7.002s

$ >/tmp/file ; time for i in {1..1000}; do for j in {1..1000}; do echo $i $j; done; done >> /tmp/file 

real    0m17.038s
user    0m13.072s
sys     0m3.945s

有人可以解释这里的差异。我目前的理解/怀疑是:

  1. 第一个是最慢的,因为它多次打开/关闭文件而其他人只执行一次。是对的吗?怎么样缓冲。通常情况下,我希望所有输出都得到缓冲,在这种情况下我们不应该有这么大的时间差异。
  2. 在第三个中,如果所有输出仅在外部循环的末尾写入,则在循环仍在执行时存储的所有输出都在哪里。也许在记忆中。这是否意味着如果我回复很多东西并且只在最后写字,我就会耗尽内存。
  3. 第二名更像第一名或第三名。为什么它与两者都如此不同。
  4. PS:我已经运行了上述命令几次,发现时间是一致的。所以,我看到的差异必然是由于一些真正的原因。

1 个答案:

答案 0 :(得分:1)

  1. 第一个版本比echo $i $j >> /tmp/file多出一百倍,打开文件进行追加,写入并关闭它。

  2. 做一百万次echo $i $j >&3不同之处在于它每次都不打开/关闭文件,而是写入文件描述符#3。 exec 3>/tmp/file打开文件进行写入,并将文件描述符保存为#3。现在,当命令将其stdout重定向到文件描述符#3(回显后>&3的效果)时,shell需要在执行命令之前设置此重定向,然后将之前的赋值恢复为stdout。

  3. 对于shell来说,重定向完整循环的输出(如>> /tmp/file更容易):它可以简单地执行echo命令而无需设置其他文件描述符。它只改变了一次stdout的赋值。

  4. 关于缓冲:在所有三种情况下,底层文件系统将缓冲对物理文件的访问,因此在该级别没有区别。此外,大多数linux都在/ tmp上安装了一个tmpfs,无论如何都会让你做一切纯内存操作。所以你不是在这里测量IO性能而是测试shell命令执行性能。您可以通过增加写入的字节数来证明这一点(向行回显打印添加一个常量值):

    >/tmp/file ; time for i in {1..1000}; do for j in {1..1000}; do echo "1000000 $i $j" >> /tmp/file; done; done
    
    >/tmp/file ; exec 3>/tmp/file; time for i in {1..1000}; do for j in {1..1000}; do echo "1000000 $i $j" >&3; done; done; exec 3>&-
    
    >/tmp/file ; time for i in {1..1000}; do for j in {1..1000}; do echo "1000000 $i $j"; done; done >> /tmp/file
    

    在我的电脑上,这与没有常量“1000000”的情况相同,但是将两倍的字节写入文件。