如何将执行环境传递给SGE

时间:2014-09-04 11:31:00

标签: python linux sungridengine

首先,环境'有不同的含义,所以让我澄清一下我的意思。

我正在研究Linux上的Python流程,并且有一些库,软件元素和文件等(例如yaml)是运行此流程和识别自定义命令所必需的。当我说环境时,我指的是整套依赖关系。

我在想的是一种封装所有这些必需品的方法'进入某事(我不知道这样的技术术语,如果这是可能的话)并将这个东西传递给Grid Engine,这样GE上的所有节点都不需要安装相同的程序集,库,并且可以使用这个东西来完成工作。

有没有人遇到过这种情况?这有可能吗?

或者,我必须ssh到每个节点并确保单独安装这些库等。

1 个答案:

答案 0 :(得分:1)

我看到两个主要选项。

  1. 虚拟环境:创建将在节点上安装nfs的virtual environment。您的工作应该使用该虚拟环境。 (请注意,我认为virtualenv适用于完整路径,因此您需要将它们安装在它们在maaster节点上的相同路径中。)
  2. 使用docker之类的东西打包(或编写,封装)您的可执行文件,以便他们需要的所有库都是自包含的。