使用popen执行多处理脚本时出现无序输出

时间:2014-07-03 11:18:41

标签: php c multiprocessing pipe popen

我一直在尝试使用php中的popen命令执行一个多处理的python程序。

问题是,输出顺序不符合预期。 PHP代码是

if ( ($fp = popen("python multi-processed.py 2>&1", "r")) )
{
    while( !feof($fp) )
    {
        print fread($fp, 1024);
        ob_flush();
        flush();
    }
    fclose($fp);
}
else
    print "can't execute command";

但是当我在shell中运行此命令时,我按预期顺序获得输出

python multi-processed.py 2>&1

然后我想到了管道缓冲,并在C

中写下了下面的代码
FILE *fp = popen("python multi-processed.py -u", "r");
if(fp != NULL)
{
    setvbuf(fp, 0, _IONBF, 0);

    while (!feof(fp))
    {
        fgets(buffer, 1024, fp);
        puts(buffer);
        fflush(fp);
    }
    fclose(fp);
}

这里我通过调用setvbuf(fp, 0, _IONBF, 0);关闭管道缓冲,但输出顺序不符合预期。

编辑:添加了python文件:multi -processed.py

def foo():
    print 'in foo'
    sleep(2)
    print 'in foo after sleep'

def fun():
    print 'in fun'
    sleep(2)
    print 'in fun after sleep'

if __name__ == '__main__':
    p1 = Process(target=foo, args=())
    p2 = Process(target=fun, args=())
    p1.start()
    p2.start()
    p1.join()
    p2.join()

预期产出:

in foo
in fun
in foo after sleep
in fun after sleep

实际输出:

in foo
in foo after sleep
in fun
in fun after sleep

你能帮帮我吗?

PS:我使用的是Windows机器,无法运行unbuffer等命令

1 个答案:

答案 0 :(得分:0)

回答我的问题:

问题是stdout缓冲。可以通过将每次写入刷新到stdout来纠正。

https://stackoverflow.com/a/107717/1519642开始,添加以下代码解决了问题

import sys

class Unbuffered(object):
   def __init__(self, stream):
       self.stream = stream
   def write(self, data):
       self.stream.write(data)
       self.stream.flush()
   def __getattr__(self, attr):
       return getattr(self.stream, attr)

sys.stdout = Unbuffered(sys.stdout)