在同一服务器上使用共享的npm node_modules /用于多个工作区

时间:2016-04-05 13:49:55

标签: node.js npm npm-shrinkwrap

我们的Jenkins / CI服务器每天为我们的node / js项目运行数百个构建,我希望能够在一个完全干净的工作区中运行每个构建。但是,npm install步骤可能需要> 10分钟,这太慢了。相反,由于我们的npm依赖关系仅针对少量构建进行更改(大约占所有构建的1%),我希望每次npm install更改时仅运行npm-shrinkwrap.json一次(在每次构建时检查md5sum) )。如果shrinkwrap文件未更改,请使用缓存的node_modules/目录。

如果我复制缓存的node_modules/,这个计划就可以运行得很好,但即使这个操作也可能需要一分钟。为了进一步优化构建时间,我希望能够对缓存的node_modules/进行符号链接,这将大大提高我们的整体构建性能。

ln -s /path/to/cache/ /path/to/workspace/node_modules

但是,在依赖关系树的多个级别存在依赖关系的情况下,简单地符号链接到缓存的路径不起作用。例如,我们的顶级项目取决于gulpgulp-util。顶级依赖性还取决于gulp-util。在npm install之后,gulp-util将安装在顶级node_modules/但不会安装在node_modules/gulp/node_modules中。

如果依赖项存在于本地工作空间(即真实目录/path/to/workspace/node_modules/)中,那么require('gulp-util')node_modules/gulp的任何实例(我认为)将递归依赖关系树,直到它找到一个合适的gulp-util模块。也就是说,它开始查看/path/to/workspace/node_modules/gulp/node_modules/gulp-util,找不到任何内容,然后查看/path/to/workspace/node_modules/gulp-util,找到一个合适的模块,导入它并继续前进。

然而,当这是一个符号链接时,我会收到如下错误:

module.js:339
    throw err;
    ^

Error: Cannot find module 'gulp-util'
    at Function.Module._resolveFilename (module.js:337:15)
    at Function.Module._load (module.js:287:25)
    at Module.require (module.js:366:17)
    at require (module.js:385:17)
    at Object.<anonymous> (/path/to/cache/gulp/index.js:4:15)
    at Module._compile (module.js:435:26)
    at Object.Module._extensions..js (module.js:442:10)
    at Module.load (module.js:356:32)
    at Function.Module._load (module.js:311:12)
    at Module.require (module.js:366:17)
    at require (module.js:385:17)

我认为这会尝试与其他版本一样,但我不明白为什么它找不到gulp-util。无论是/path/to/workspace/node_modules/gulp-util还是/path/to/cache/gulp-util,它都应该找到该模块并能够导入它。

我尝试通过手动安装模块gulp/node_modules/gulp-util来解决这个问题,但是我遇到了很多这样的错误,并且在构建服务器上手动处理这个错误是不可行的。编写一些代码来搜索这种类型的依赖关系并安装它们是可能的,但感觉这是错误的。

npm必须有一些方法来支持这样的工作流程,对吧?我错过了一些明显的东西吗我是否对文档中的内容进行了掩饰?

1 个答案:

答案 0 :(得分:2)

感谢@ amol-m-kulkarni here发布的答案(上面有@ darko-rodic帮助推荐),我意识到自己的错误。

  

如果给定的模块不是核心模块(例如http,fs等),   然后,Node.js将开始搜索名为node_modules的目录。

     

它将从当前目录开始(相对于   当前正在Node.JS中执行的文件,然后继续前进   文件夹层次结构,检查node_modules文件夹的每个级别。一旦   Node.JS找到node_modules文件夹,然后尝试加载   给定模块作为(.js)JavaScript文件或命名   子目录;如果它找到了命名的子目录,那么它将会   尝试以各种方式加载文件。所以,例如

我的错误在于我给出了缓存路径的名称。由于它名为/path/to/cacherequire在路径中遇到的最后一个node_modules目录后停止向上看。在这种情况下,它停在/path/to/cache/gulp/node_modules,并且没有意识到在搜索中应该考虑/path/to/cache/gulp-util

我通过将缓存重命名为/path/to/cache/node_modules来解决此问题,因此require会继续搜索,直到达到该级别,然后会找到/path/to/cache/node_modules/gulp-util

我将再次参考文档,看看这对我是否应该是清楚的。