Apache storm Trident - 动态创建拓扑

时间:2016-06-20 15:20:39

标签: apache-storm trident

有没有办法在三叉戟中动态创建拓扑? 有人可以提供例子吗?

1 个答案:

答案 0 :(得分:0)

首先,您可能也知道创建拓扑不是Trident的一部分。 Trident只是微型化的API。

根据定义,创建新拓扑是动态的。这就是TopologyBuilder类正在做的事情。

所以要回答你的问题,是的,可以从Trident或简单的Storm喷口和螺栓中创建新拓扑。您唯一需要的是拓扑创建逻辑应该可以访问Storm集群(类和其他资源),如果您在Storm中运行逻辑,则可以再次满足定义。

您需要的最后一件事是找到一种方法来提交新创建的拓扑,这就是StormSubmitter类的用途,这又是(!surprise :))的定义是满足的在Trident或普通喷口/螺栓内运行逻辑时,在类路径上。

出于好奇,你为什么打算这样做?你有什么要求?

示例:

import java.util.Map;

import org.apache.storm.Config;
import org.apache.storm.StormSubmitter;
import org.apache.storm.generated.StormTopology;
import org.apache.storm.spout.SpoutOutputCollector;
import org.apache.storm.task.TopologyContext;
import org.apache.storm.topology.OutputFieldsDeclarer;
import org.apache.storm.topology.TopologyBuilder;
import org.apache.storm.topology.base.BaseRichSpout;
import org.apache.storm.trident.operation.TridentCollector;
import org.apache.storm.trident.spout.IBatchSpout;
import org.apache.storm.tuple.Fields;

public class DynamicTopologySpout implements IBatchSpout {

    private static final long serialVersionUID = -3269435263455830842L;

    @Override
    @SuppressWarnings("rawtypes")
    public void open(Map conf, TopologyContext context) {}

    @Override
    public void emitBatch(long batchId, TridentCollector collector) {
        if (newTopologyNeeded()) {
            TopologyBuilder builder = new TopologyBuilder();
            builder
            .setSpout("spout", new BaseRichSpout() {
                private static final long serialVersionUID = 1L;
                @Override public void declareOutputFields(OutputFieldsDeclarer declarer) {}
                @Override @SuppressWarnings("rawtypes") public void open(Map conf, TopologyContext context, SpoutOutputCollector collector) {}
                @Override public void nextTuple() {}
            }, 1)
            .setMaxSpoutPending(15)
            .setNumTasks(1);
            StormTopology topology = builder.createTopology();
            Config config = new Config();
            try {
                StormSubmitter.submitTopology("dynamic-topology", config, topology);
            } catch (Exception e) {
                e.printStackTrace();
                collector.reportError(e);
            }
        }
    }

    private boolean newTopologyNeeded() {
        // Check if topology needed ...
        return false;
    }

    @Override
    public void ack(long batchId) {}

    @Override
    public void close() {}

    @Override
    public Map<String, Object> getComponentConfiguration() { return null; }

    @Override
    public Fields getOutputFields() { return null; }

}