非阻塞fifo

时间:2016-08-30 17:29:50

标签: python blocking nonblocking fifo

如何在两个python进程之间创建一个fifo,如果读者无法处理输入,那么允许删除行?

  • 如果读者尝试readreadline更快,那么作者会写,它应该阻止。
  • 如果读者无法像作者写的那样快速工作,那么作者就不应该阻止。线路不应该被缓冲(一次除了一行),并且只有最后一行应该由读者在下一次readline尝试时接收。

这是否可以使用命名的fifo,还是有其他简单的方法来实现这个?

2 个答案:

答案 0 :(得分:1)

以下代码使用命名FIFO来允许两个脚本之间的通信。

  • 如果读者试图read比作家更快,则会阻止。
  • 如果读者无法跟上作者,作者就不会阻止。
  • 操作以缓冲为导向。目前尚未实施面向行的操作。
  • 此代码应视为概念验证。延迟和缓冲区大小是任意的。

<强>代码

import argparse
import errno
import os
from select import select
import time

class OneFifo(object):
    def __init__(self, name):
        self.name = name

    def __enter__(self):
        if os.path.exists(self.name):
            os.unlink(self.name)
        os.mkfifo(self.name)
        return self

    def __exit__(self, exc_type, exc_value, exc_traceback):
        if os.path.exists(self.name):
            os.unlink(self.name)

    def write(self, data):
        print "Waiting for client to open FIFO..."
        try:
            server_file = os.open(self.name, os.O_WRONLY | os.O_NONBLOCK)
        except OSError as exc:
            if exc.errno == errno.ENXIO:
                server_file = None
            else:
                raise
        if server_file is not None:
            print "Writing line to FIFO..."
            try:
                os.write(server_file, data)
                print "Done."
            except OSError as exc:
                if exc.errno == errno.EPIPE:
                    pass
                else:
                    raise
            os.close(server_file)

    def read_nonblocking(self):
        result = None
        try:
            client_file = os.open(self.name, os.O_RDONLY | os.O_NONBLOCK)
        except OSError as exc:
            if exc.errno == errno.ENOENT:
                client_file = None
            else:
                raise
        if client_file is not None:
            try:
                rlist = [client_file]
                wlist = []
                xlist = []
                rlist, wlist, xlist = select(rlist, wlist, xlist, 0.01)
                if client_file in rlist:
                    result = os.read(client_file, 1024)
            except OSError as exc:
                if exc.errno == errno.EAGAIN or exc.errno == errno.EWOULDBLOCK:
                    result = None
                else:
                    raise
            os.close(client_file)
        return result

    def read(self):
        try:
            with open(self.name, 'r') as client_file:
                result = client_file.read()
        except OSError as exc:
            if exc.errno == errno.ENOENT:
                result = None
            else:
                raise
        if not len(result):
            result = None
        return result

def parse_argument():
    parser = argparse.ArgumentParser()
    parser.add_argument('-c', '--client', action='store_true',
                        help='Set this flag for the client')
    parser.add_argument('-n', '--non-blocking', action='store_true',
                        help='Set this flag to read without blocking')
    result = parser.parse_args()
    return result

if __name__ == '__main__':
    args = parse_argument()
    if not args.client:
        with OneFifo('known_name') as one_fifo:
            while True:
                one_fifo.write('one line')
                time.sleep(0.1)
    else:
        one_fifo = OneFifo('known_name')
        while True:
            if args.non_blocking:
                result = one_fifo.read_nonblocking()
            else:
                result = one_fifo.read()
            if result is not None:
                print result

server检查client是否已打开FIFO。如果client已打开FIFO,则server会写入一行。否则,server继续运行。我已经实现了非阻塞读取,因为阻塞读取会导致问题:如果server重新启动,则client大部分时间都会被阻止并且永远不会恢复。使用非阻止client,可以更轻松地容忍server重启。

<强>输出

[user@machine:~] python onefifo.py
Waiting for client to open FIFO...
Waiting for client to open FIFO...
Writing line to FIFO...           
Done.
Waiting for client to open FIFO...
Writing line to FIFO...
Done.

[user@machine:~] python onefifo.py -c
one line
one line

备注

启动时,如果server检测到FIFO已存在,则将其删除。这是通知clients server已重新启动的最简单方法。 client的阻止版本通常会忽略此通知。

答案 1 :(得分:0)

嗯,据我所知,这实际上并不是一个FIFO(队列) - 它是一个单一的变量。我认为如果你设置一个最大大小为1的队列或管道,它可能是可实现的,但似乎在其中一个进程中对一个对象使用Lock会更好。通过proxy object处理引用。读者每次读取时都会将其设置为None,并且每次写入时编写器都会覆盖内容。

您可以通过传递对象的代理和锁的代理作为所有相关进程的参数来获取其他进程。为了更方便地使用它,您可以使用Manager,它为您提供可以传入的代理的单个对象,其中包含并提供您想要放入其中的任何其他对象(包括锁)的代理。 This answer提供了正确使用Manager将对象传递到新进程的有用示例。