有没有人有过使用Data Pipeline的经验?
我一直试图找出是否有办法在管道中的活动之间传递参数。不幸的是aws文档对这些问题不是很有帮助...... 假设我有一个ShellCommandActivity和一个EmrActivity。 我想从我的ShellCommandActivity中获取一个字符串,我以后可以将其用作我的EmrActivity的参数(比如文件名或s3路径) 或者可能是管道中的其他对象 - 例如DataNode
任何帮助将不胜感激
答案 0 :(得分:1)
实现此目的的一种方法是让shell脚本将字符串写入S3中的某个文件。在EMR活动中读取文件。另外添加EMR活动取决于ShellCommandActivity