如何将运行时参数/参数添加到CDAP管道。
我们可以在所有Transforms,Source和Target节点中设置参数,并在运行时在Datafusion环境中手动输入值。
但是,在生产环境中,我希望参数文件将值馈送到管道中,我如何实现此功能。
在CDAP文档中,我找不到有关运行时参数的任何有用信息。我是数据融合的新手,并且对界面不是很熟悉。如果已经回答了这个问题,则重定向到该线程也将很有帮助
答案 0 :(得分:0)
启动管道时,可以在请求正文中将运行时参数指定为JSON映射。
首先,您的管道应包含属性查找宏,这些宏已记录在here中。 例如,管道json定义可以包含BigQuery Sink插件的以下配置(为简洁起见,删除了周围的字段):
{
"name": "BigQuerySink",
"plugin": {
"properties": {
"table": "${bqsink_table}"
}
},
然后,在启动管道时,可以指定宏的值,如here所述。
在此示例中,您将向POST v3/namespaces/<namespace-id>/apps/<app-id>/workflows/DataPipelineWorkflow/start
发送POST请求,请求正文为:
{ "bqsink_table": "myTable" }