Question

我希望从clojure中生成一个长期运行的子进程通过标准流与此流程进行沟通。

使用conch库，我可以生成并读取进程，并从out流中读取数据：

(def my-process (sh/proc "my_dumb_process"))
  ; read 10 lines from my-process's stdout. Will block until 10 lines taken
  (take 10 (line-seq (clojure.java.io/reader (:out p))))

我想在my-process打印时调用异步回调到stdout - 只要stdout流中有数据可用。

我对clojure有点新鲜 - 是否有一种惯用的方法可以做这个？我查看了core.async，这很不错，但我找不到流的非阻塞解决方案。

Answer 1

用于我们目的的示例shell脚本（确保使其可执行），将其放在clojure项目的根目录中以便于测试：

$ cat dumb.sh
#!/bin/bash

for i in 1 2 3 4 5
do
    echo "Loop iteration $i"
    sleep 2
done

现在我们将定义执行，启动和获取stdout（(.getInputStream process)）的过程，一次读取一行并循环直到完成。实时阅读。

(defn run-proc
  [proc-name arg-string callback]
  (let [pbuilder (ProcessBuilder. (into-array String [proc-name arg-string]))
        process (.start pbuilder)]
    (with-open [reader (clojure.java.io/reader (.getInputStream process))]
      (loop []
        (when-let [line (.readLine ^java.io.BufferedReader reader)]
          (callback line)
          (recur))))))

测试：

(run-proc "./dumb.sh" "" println)
About to start...
Loop iteration 1
Loop iteration 2
Loop iteration 3
Loop iteration 4
Loop iteration 5
=> nil

此功能将被阻止，对callback的呼叫也会阻止;如果你希望它在一个单独的线程中运行，你可以包装future：

(future (callback line))

对于基于core.async的方法：

(defn run-proc-async
  [proc-name arg-string callback]
  (let [ch (async/chan 1000 (map callback))]
    (async/thread
      (let [pbuilder (ProcessBuilder. (into-array String [proc-name arg-string]))
            process (.start pbuilder)]
        (with-open [reader (clojure.java.io/reader (.getInputStream process))]
          (loop []
            (when-let [line (.readLine ^java.io.BufferedReader reader)]
              (async/>!! ch line)
              (recur))))))
    ch))

这会将您的callback函数作为传感器应用到通道中，并将结果放在函数返回的通道上：

(run-proc-async "./dumb.sh" "" #(let [cnt (count %)]
                                  (println "Counted" cnt "characters")
                                  cnt))

#object[clojure.core.async.impl.channels.ManyToManyChannel ...]
Counted 16 characters
Counted 16 characters
Counted 16 characters
Counted 16 characters
Counted 16 characters

(async/<!! *1)
=> 16

在此示例中，通道上有一个1000的缓冲区。因此，除非您开始从频道中删除，否则在读取1000行后，对>!!的调用将会阻止。你也可以使用put!进行回调，但这里有一个内置的1024限制，你应该处理结果。

Answer 2

如果您不介意使用库，可以使用lazy-gen和yield from the Tupelo library找到一个简单的解决方案。它的工作方式类似于Python中的生成器函数：

(ns tst.demo.core
  (:use demo.core tupelo.test)
  (:require
    [clojure.java.io :as io]
    [tupelo.core :as t]
    [me.raynes.conch.low-level :as cll]
  ))
(t/refer-tupelo)

(dotest
  (let [proc          (cll/proc "dumb.sh")
        >>            (pretty proc)
        out-lines     (line-seq (io/reader (grab :out proc)))
        lazy-line-seq (lazy-gen
                        (doseq [line out-lines]
                          (yield line))) ]
    (doseq [curr-line lazy-line-seq]
      (spyx curr-line))))

使用与以前相同的dumb.sh，它会产生此输出：

{:out  #object[java.lang.UNIXProcess$ProcessPipeInputStream 0x465b16bb "java.lang.UNIXProcess$ProcessPipeInputStream@465b16bb"],
 :in   #object[java.lang.UNIXProcess$ProcessPipeOutputStream 0xfafbc63 "java.lang.UNIXProcess$ProcessPipeOutputStream@fafbc63"],
 :err  #object[java.lang.UNIXProcess$ProcessPipeInputStream 0x59bb8f80 "java.lang.UNIXProcess$ProcessPipeInputStream@59bb8f80"],
 :process  #object[java.lang.UNIXProcess 0x553c74cc "java.lang.UNIXProcess@553c74cc"]}

; one of these is printed every 2 seconds
curr-line => "Loop iteration 1"
curr-line => "Loop iteration 2"
curr-line => "Loop iteration 3"
curr-line => "Loop iteration 4"
curr-line => "Loop iteration 5"

lazy-gen中的所有内容都使用core.async在单独的主题中运行 。 doseq急切地使用进程输出并使用yield将其放在输出延迟序列上。第二个doseq急切地在当前主题 中消耗lazy-gen 的结果，并在每一行可用时立即打印。

替代解决方案：

更简单的解决方案是简单地使用这样的未来：

(dotest (let [proc (cll/proc "dumb.sh") out-lines (line-seq (io/reader (grab :out proc))) ] (future (doseq [curr-line out-lines] (spyx curr-line)))))

结果相同：

curr-line => "Loop iteration 1" curr-line => "Loop iteration 2" curr-line => "Loop iteration 3" curr-line => "Loop iteration 4" curr-line => "Loop iteration 5"

如何从clojure中的子进程执行非阻塞读取标准输出？

2 个答案: