流命令输出进度

时间:2015-06-09 07:36:54

标签: go execution

我正在编写一个服务,必须将已执行命令的输出流式传输到父级和日志。当有一个漫长的过程时,问题是cmd.StdoutPipe给了我一个最终的(字符串)结果。

是否可以提供正在发生的事情的部分输出,例如shell

func main() {
    cmd := exec.Command("sh", "-c", "some long runnig task")

    stdout, _ := cmd.StdoutPipe()
    cmd.Start()

    scanner := bufio.NewScanner(stdout)
    for scanner.Scan() {
        m := scanner.Text()
        fmt.Println(m)
        log.Printf(m)
    }

    cmd.Wait()
}

P.S。输出就是:

cmd.Stdout = os.Stdout

但就我而言,这还不够。

2 个答案:

答案 0 :(得分:6)

您发布的代码有效(执行了合理的命令)。

这是一个简单的"一些长期运行的任务" 用Go编写,供您调用和测试代码:

func main() {
    fmt.Println("Child started.")
    time.Sleep(time.Second*2)
    fmt.Println("Tick...")
    time.Sleep(time.Second*2)
    fmt.Println("Child ended.")
}

编译它并将其命名为您的命令。您将看到子进程立即显示的不同行,"流式传输"。

可能不适合您的原因

Scanner返回的bufio.NewScanner()读取整行,只有在遇到换行符时才返回一些内容(由bufio.ScanLines()函数定义)。

如果您执行的命令不打印换行符,则不会立即返回其输出(仅当打印换行符,填充内部缓冲区或进程结束时)。

可能的解决方法

如果您无法保证子进程打印换行符,但您仍希望对输出进行流式处理,则无法读取整行。一种解决方案是通过单词阅读,甚至通过字符(符文)阅读。您可以使用split function方法设置不同的Scanner.Split()来实现此目的:

scanner := bufio.NewScanner(stdout)
scanner.Split(bufio.ScanRunes)

bufio.ScanRunes函数会按rune读取输入,因此只要新的rune可用,Scanner.Scan()就会返回。

或者在没有Scanner的情况下手动阅读(在此示例中逐字节):

oneByte := make([]byte, 1)
for {
    _, err := stdout.Read(oneByte)
    if err != nil {
        break
    }
    fmt.Printf("%c", oneByte[0])
}

请注意,上面的代码会错误地读取rune个UTF-8编码中的多个字节。要读取多个UTF-8字节符文,我们需要一个更大的缓冲区:

oneRune := make([]byte, utf8.UTFMax)
for {
    count, err := stdout.Read(oneRune)
    if err != nil {
        break
    }
    fmt.Printf("%s", oneRune[:count])
}

要记住的事情

进程具有标准输出和标准错误的默认缓冲区(通常大小为几KB)。如果进程写入标准输出或标准错误,它将进入相应的缓冲区。如果此缓冲区已满,则进一步写入将阻止(在子进程中)。如果您没有读取子进程的标准输出和标准错误,那么如果缓冲区已满,您的子进程可能会挂起。

因此建议始终读取子进程的标准输出和错误。即使您知道该命令通常正常写入其标准错误,但如果发生某些错误,它可能会开始将错误消息转储为其标准错误。

编辑:正如Dave C默认提到的那样,子进程的标准输出和错误流将被丢弃,如果不读取则不会导致阻塞/挂起。但是,通过不读取错误流,您可能会错过此过程中的一两件事。

答案 1 :(得分:0)

我找到了很好的例子,如何在this article中通过Krzysztof Kowalczyk实现进度输出