将模型A的输出路由为Seldon Core上模型B的输入

时间:2019-08-14 05:15:11

标签: kubernetes kubeflow

我正在测试Seldon Core,想知道是否有一种简单的方法来将模型A的输出路由为Seldon Core上模型B的输入。 最佳做法是什么?

1 个答案:

答案 0 :(得分:1)

在SeldonDeployment资源定义中,您有一个图形部分。顶层元素是第一步,它包含下一步的子级。这是一个from an example片段,显示了一个转换器在将请求传递给模型之前用于对其进行转换:

    graph:
      children:
        - children: []
          implementation: XGBOOST_SERVER
          name: model
          modelUri: s3://model-image
          type: MODEL
      endpoint:
        type: REST
      name: feature-transformer
      type: TRANSFORMER

有一个example in the seldon documentation,其中诸如clean和tokenize之类的步骤用于对自然语言处理进行推理。该示例具有多个作为MODEL类型的步骤。还有discussion on this in the seldon slack channel