我在Breeze库中添加了一些方法,我可以通过IDE看到这些方法。我试图将自己构建的Breeze库添加到基于Apache Spark的项目中。但是,当我通过命令“sbt assembly”打包我的项目并在我的集群上运行它时,它会抛出错误“没有这样的方法xxx”,这意味着集群实际上没有运行我的Breeze库。那么有谁能告诉我如何使集群运行由我自己构建的Breeze库?
答案 0 :(得分:0)
我猜想spark会使用某些版本的Breeze库本身,并且更喜欢它们而不是你自定义的.jars。您可以尝试使用自定义库构建spark。在您的本地maven存储库中安装您的库,在apache spark' pom.xml
中指定它并构建您自己的spark版本。