Question

我最近开始使用spark-kernel。

如教程和示例代码中所示，我能够设置客户端并使用它来执行spark-kernel上的代码片段并检索此example code中给出的结果。

现在，我需要使用spark-kernel提供的comm API。我尝试了这个tutorial，但我无法让它发挥作用。事实上，我不知道如何做到这一点。

我尝试了以下代码，但是当我运行此代码时，我收到此错误＆＃34;收到Comm Open的无效目标：my_target＆＃34;在内核上。

package examples
import scala.runtime.ScalaRunTime._
import scala.collection.mutable.ListBuffer
import com.ibm.spark.kernel.protocol.v5.MIMEType
import com.ibm.spark.kernel.protocol.v5.client.boot.ClientBootstrap
import com.ibm.spark.kernel.protocol.v5.client.boot.layers.{StandardHandlerInitialization, StandardSystemInitialization}
import com.ibm.spark.kernel.protocol.v5.content._
import com.typesafe.config.{Config, ConfigFactory}
import Array._

object commclient extends App{
val profileJSON: String = """
{
      "stdin_port" : 48691,
      "control_port" : 44808,
      "hb_port" : 49691,
      "shell_port" : 40544,
      "iopub_port" : 43462,
      "ip" : "127.0.0.1",
      "transport" : "tcp",
      "signature_scheme" : "hmac-sha256",
      "key" : ""
}
""".stripMargin

val config: Config = ConfigFactory.parseString(profileJSON)
val client = (new ClientBootstrap(config)
    with StandardSystemInitialization
    with StandardHandlerInitialization).createClient()

def printResult(result: ExecuteResult) = {
    println(s"${result.data.get(MIMEType.PlainText).get}")
}
def printStreamContent(content:StreamContent) = {
    println(s"${content.text}")
}
def printError(reply:ExecuteReplyError) = {
    println(s"Error was: ${reply.ename.get}")
}

client.comm.register("my_target").addMsgHandler {
(commWriter, commId, data) =>
    println(data)
    commWriter.close()
}

// Initiate the Comm connection
client.comm.open("my_target")

}

有人能告诉我如何运行这段代码：

// Register the callback to respond to being opened from the client
kernel.comm.register("my target").addOpenHandler { 
    (commWriter, commId, targetName, data) =>
        commWriter.writeMsg(Map("response" -> "Hello World!"))
}

如果有人能指出我使用comm API的完整工作示例，我将非常感激。

任何帮助将不胜感激。感谢

Answer 1

您可以使用客户端在一个程序中运行此服务器（内核）端注册一次。然后您的其他程序可以使用此通道与内核通信。这是我在上面提到的第一个程序中运行注册的方式：

client.execute(
"""
// Register the callback to respond to being opened from the client
kernel.comm.register("my target").
    addOpenHandler {
        (commWriter, commId, targetName, data) =>
            commWriter.writeMsg(org.apache.toree.kernel.protocol.v5.MsgData("response" -> "Toree Hello World!"))
    }.
    addMsgHandler {
        (commWriter, _, data) =>
            if (!data.toString.contains("closing")) {
                commWriter.writeMsg(data)
            } else {
                commWriter.writeMsg(org.apache.toree.kernel.protocol.v5.MsgData("closing" -> "done"))
            }
    }
""".stripMargin
)

使用spark-kernel comm API

1 个答案: