文本处理应用程序的负载平衡

Question

我有一个资源密集型的NLP应用程序，我希望将其放在网络上，我想让它可以由100多个用户同时访问。

我可以访问几台机器的集群。我的想法是在这些机器上运行几个后台进程，然后使用负载平衡程序来分配来自多个客户机的输入。我想知道我是否走在正确的轨道上并欢迎提出建议。

Answer 1

有几种集成和扩展方案。假设您的大多数组件都与NLP相关，我建议为NLP定制一个框架：Apache UIMA project。 对您的方案有用的可能是Apache UIMA Asynchronous Scaleout。