Spark历史日志手动解压缩

时间:2017-11-08 16:51:31

标签: java scala apache-spark lz4

我在使用spark历史记录服务器时遇到了一些问题,因此尝试手动解压缩lz4个日志。我安装了liblz4-tool并下载了应用程序日志application_1510049252849_0303.lz4。但是当用lz4 ~/application_1510049252849_0303.lz4解压缩时,我收到以下错误:

Error 44 : Unrecognized header : file cannot be decoded 

这对于每个火花历史lz4文件都有。解决办法是什么?有没有办法手动打开它?

2 个答案:

答案 0 :(得分:3)

我在尝试解压缩lz4事件日志时遇到了同样的错误。显然,hadoop lz4编解码器与其他lz4编解码器之间似乎存在一些不兼容性:请参阅https://issues.apache.org/jira/browse/HADOOP-12990

对于它的价值,spark历史服务器可以读取lz4中的压缩事件日志,因此您无需手动解压缩它们。希望这会有所帮助。

答案 1 :(得分:0)

lz4放入Spark历史记录服务器时无需解压缩。您只需将事件日志放入事件日志目录即可。它将自动选择该应用程序并将其显示在Spark History Server UI中。

相关问题