Question

我正在尝试检查正在运行的嵌入式系统的日志文件中的错误。

我已经在我的脚本中实现了paramiko，因为我被告知这是在python中使用ssh的最佳方法。

现在当我拖尾日志文件时，我发现存在很大的延迟。每分钟增加约30秒。

我已经使用grep来减少打印的行数，因为我认为我收到了太多的输入，但事实并非如此。

如何在运行期间减少此延迟或停止延迟增加。我想拖尾几个小时......

def mkssh_conn(addr):
    """returns an sshconnection"""
    paramiko.util.logging.getLogger('paramiko').setLevel(logging.WARN)
    sshcon = paramiko.SSHClient()
    sshcon.set_missing_host_key_policy(paramiko.AutoAddPolicy())
    sshcon.connect(addr , username, password)
    return sshcon

while True:
    BUF_SIZE = 1024
    client = mkssh_conn() #returns a paramiko.SSHClient()
    transport = client.get_transport()
    transport.set_keepalive(1)
    channel = transport.open_session()
    channel.settimeout(delta)
    channel.exec_command( 'killall tail')
    channel = transport.open_session()
    channel.settimeout(delta)
    cmd = "tail -f /log/log.log | grep -E 'error|statistics'"
    channel.exec_command(cmd)
    while transport.is_active():
        print "transport is active"
        rl, wl, xl = select.select([channel], [], [], 0.0)
        if len(rl) > 0:
            buf = channel.recv(BUF_SIZE)
            if len(buf) > 0:
                lines_to_process = LeftOver + buf
                EOL = lines_to_process.rfind("\n")
                if EOL != len(lines_to_process)-1:
                    LeftOver = lines_to_process[EOL+1:]
                    lines_to_process = lines_to_process[:EOL]
                else:
                    LeftOver = ""
                for line in lines_to_process.splitlines():
                    if "error" in line:
                        report_error(line)
                    print line
    client.close()

Answer 1

我找到了一个解决方案：似乎如果我将BUF_SIZE降低到256，则延迟减小。明显。如果延迟在运行期间仍然增加，我需要重新检查。

Answer 2

BUFFER_SIZE应位于较高端，以减少cpu周期（并反过来减少由于网络延迟导致的整体延迟），以防您使用高吞吐量尾管道。

进一步将BUFFER_SIZE设为更高的数字，不应该降低性能。（如果paramiko没有哭，直到缓冲区填满低通量管道）

@studioj的答案与此之间的矛盾，可能是由于paramiko的升级（现在修复）

与Paramiko的ssh尾巴有越来越多的延迟

2 个答案: