我在pyspark中使用addPyFile
方法加载redis.zip
文件。
我可以使用
sc.addPyFile("/home/path/to/redis.zip")
但是在使用./pyspark
运行代码时,它显示错误:
NameError:未定义名称'redis'
zip(redis.zip
)包含.py
个文件(client.py
,connection.py
,exceptions.py
,lock.py
,utils.py
和其他)。
Python版本为 - 3.5,spark为2.7
答案 0 :(得分:1)
如果您将py文件打包成zip并使用sc.addPyFile
添加它,则应使用import client
,import connector
等导入模块。