我在 Ubuntu 15.10 中使用Pyspark的Docker容器 jupyter / pyspark-notebook 。我需要安装具有所有依赖关系的folium并在容器中运行Pyspark脚本。我成功安装了Docker,拉出了图像并使用命令
运行它docker run -d -p 8888:8888 -p 4040:4040 -v /home/$MYUSER/$MYPROJECT:/home/jovyan/work jupyter/pyspark-notebook
然后,我执行代码示例没有任何问题
import pyspark
sc = pyspark.SparkContext('local[*]')
# do something to prove it works
rdd = sc.parallelize(range(1000))
rdd.takeSample(False, 5)
我在/opt/conda
中查找了conda环境(正如documentation中所述)但我的/opt
文件夹中没有conda。然后,我安装了miniconda3和folium作为普通Python包的所有依赖项(不涉及Docker)。
它不起作用。当我运行图片并尝试使用import folium
导入包时,它找不到folium包:
ImportErrorTraceback (most recent call last)
<ipython-input-1-af6e4f19ef00> in <module>()
----> 1 import folium
ImportError: No module named 'folium'
所以问题可以归结为两个问题:
答案 0 :(得分:8)
要回答第一个问题 conda环境在哪里?我们只需要在控制台$ docker my_containers_name ls /opt/conda
中执行。
第二个问题有两个选择:
我们可以通过执行命令
打开容器控制台 $ docker exec -it my_containers_name /bin/bash
并像普通的conda包那样安装包
conda install --channel https://conda.anaconda.org/conda-forge folium
我们可以修改Docker镜像的Dockerfile或创建一个扩展前一个镜像的新Docker文件。创建新的Dockerfile并添加行
FROM jupyter/minimal-notebook
USER jovyan
RUN conda install --quiet --yes --channel https://conda.anaconda.org/conda-forge folium && conda clean -tipsy
构建我们的新形象。如果我们想修改原始的Dockerfile,我们必须跳过第一行。
我通过分发Dockerfile来创建自己的original project。
感谢您warmoverflow和ShanShan发表评论