因此,有了一种依赖关系,我已经进入了一种我无法逃避的纠缠程度。我讨厌当我带上评论的罐子时会发生什么:
libraryDependencies ++= Seq(
// "org.apache.avro" % "avro" % "1.8.1" excludeAll ExclusionRule(organization = "log4j"),
// "org.apache.kafka" %% "kafka" % "0.10.0.0",
"org.apache.hive" % "hive-jdbc" % "1.2.2"
excludeAll ExclusionRule(organization = "log4j")
exclude("org.apache.hadoop", "hadoop-yarn-api"),
"log4j" % "log4j" % "1.2.16"
)
使用sbt程序集,我遇到了以下重复数据删除问题:
[error] (*:assembly) deduplicate: different file contents found in the following:
[error] C:\Users\G517329\.ivy2\cache\org.datanucleus\datanucleus-api-jdo\jars\datanucleus-api-jdo-3.2.6.jar:plugin.xml
[error] C:\Users\G517329\.ivy2\cache\org.datanucleus\datanucleus-core\jars\datanucleus-core-3.2.10.jar:plugin.xml
[error] C:\Users\G517329\.ivy2\cache\org.datanucleus\datanucleus-rdbms\jars\datanucleus-rdbms-3.2.9.jar:plugin.xml
我被困在哪里试图找到一种合并策略,允许这三个罐子在一个胖罐子里愉快地共存。我已尝试过以下策略的几种变体,但没有取得进展:
assemblyMergeStrategy in assembly := {
case PathList("javax", "transaction", xs @ _*) => MergeStrategy.first
case PathList(xs @ _*) if xs.last endsWith "plugin.xml" => MergeStrategy.discard
// case PathList("org", "datanucleus", "datanucleus-api-jdo", xs @ _*) => MergeStrategy.last
// case PathList("org", "datanucleus", "datanucleus-rdbms", xs @ _*) => MergeStrategy.last
case PathList("META-INF", xs @ _*) => MergeStrategy.discard
case x =>
val oldStrategy = (assemblyMergeStrategy in assembly).value
oldStrategy(x)
}
我必须对这是如何工作有一些误解,因为在我看来,第二行应该找到每个jar中的每个plugin.xml
文件并对其进行核对。
有没有人成功将hive-jdbc包含在胖罐子里?
更新:
case "plugin.xml" => MergeStrategy.discard //or .last
应该可行,我想,但是会抛出:
[error] (*:assembly) java.util.NoSuchElementException
答案 0 :(得分:1)
所以我今天早上加载了这个项目并再试一次。这一次
case "plugin.xml" => MergeStrategy.last
不扔,我有一个胖罐。
GUH。
更新:
我不知道问题出在哪里(Intellij,SBT控制台,sbt-assembly),但是有一些缓存正在使解决合并问题变得非常困难。我发现确保对build.sbt中的代码所做的更改实际应用的唯一可靠方法是关闭整个IDE并重新打开它。