有没有一种使用bash向集群提交作业的好方法?

时间:2010-09-30 21:01:03

标签: linux bash unix distributed cluster-computing

使用bash shell在Linux机器上有没有一个好的工具?我只需要在集群中的一组节点上发出不同的命令,当其中一个完成该作业时,我想提交另一个。与Hadoop可以做的非常相似的东西。我也有兴趣知道工作的状态,但即便如此也是如此。有什么建议吗?

3 个答案:

答案 0 :(得分:1)

Sun Grid Engine和Mosix等程序将允许您立即提交所有作业并自动对它们进行负载平衡(这意味着它会将它们排队,以便一次只能在给定节点上运行正确的数字)。

我在科学计算方面有很好的经验(在Linux上使用bash)并且强烈推荐。

答案 1 :(得分:1)

还有parbash(Parallel Bash):

http://code.google.com/p/parbash/

答案 2 :(得分:0)

您也可以使用挂载的NFS / SMB分区并自行编写一些脚本。