我在使用spark历史记录服务器时遇到了一些问题,因此尝试手动解压缩lz4
个日志。我安装了liblz4-tool
并下载了应用程序日志application_1510049252849_0303.lz4
。但是当用lz4 ~/application_1510049252849_0303.lz4
解压缩时,我收到以下错误:
Error 44 : Unrecognized header : file cannot be decoded
这对于每个火花历史lz4
文件都有。解决办法是什么?有没有办法手动打开它?
答案 0 :(得分:3)
我在尝试解压缩lz4事件日志时遇到了同样的错误。显然,hadoop lz4编解码器与其他lz4编解码器之间似乎存在一些不兼容性:请参阅https://issues.apache.org/jira/browse/HADOOP-12990。
对于它的价值,spark历史服务器可以读取lz4中的压缩事件日志,因此您无需手动解压缩它们。希望这会有所帮助。
答案 1 :(得分:0)
lz4放入Spark历史记录服务器时无需解压缩。您只需将事件日志放入事件日志目录即可。它将自动选择该应用程序并将其显示在Spark History Server UI中。