如何为多个用户压力/加载测试JupyterHub?

时间:2017-10-04 15:47:36

标签: ipython jupyter-notebook ipython-notebook jupyter jupyterhub

我在此链接上遵循了在AWS EMR集群上设置JupyterHub的教程:https://aws.amazon.com/blogs/big-data/running-jupyter-notebook-and-jupyterhub-on-amazon-emr/

我启动并运行了群集,但现在我的问题是如何压力/加载测试? (即模拟同时通过笔记本电脑运行的100个用户)。

在教室环境中,我有大约30个用户通过笔记本练习进入我的群集,但是当更多人开始在笔记本中执行代码块时,发生了巨大的减速。发生了什么事情是一些python库导入永远,一些练习停止工作或只是挂起。 Cloudwatch表明存在网络瓶颈。

基本上我问的是如何调试这样的东西?什么是模拟多个用户sshing到EMR集群,打开jupyter笔记本并同时运行代码块的最佳方法?

1 个答案:

答案 0 :(得分:0)

您应该查看(并贡献?)类似于this one的项目,这些项目旨在加载测试JupyterHub,并且应该再次移植到jupyterHub组织。

请注意,在您的情况下,您并不是真的希望测试JupyterHub,而是在测试您的群集;只需在并行导入库中运行N个脚本,就可以进行负载测试。