我正在研究使用BigQuery获取对应用程序日志文件的深入了解的优点。这些日志由Java和C#应用程序生成,其中大部分位于基于云的VM上。我很想知道其他人是否已经这样做以及BigQuery与ElasticSearch / Logstash / Kibana的相对优点。
BigQuery的优势似乎是它可以处理大量数据,而ELK解决方案似乎更适合日志文件的非结构化特性,特别是当它们来自不同的系统时。
我还希望在仪表板上显示信息。 Kibana似乎非常好。使用Google解决方案(使用Google工作表等)创建仪表板有多容易?
思考,用例?
答案 0 :(得分:7)
2017年更新:GCP正式支持弹性
Elasticsearch和BigQuery一起工作很好。 BigQuery将获取尽可能多的数据,并在几秒钟内以任何方式查询它。同时,经过良好调整的Elasticsearch安装程序将在不到一秒的时间内为您提供答案,但仅针对有限数量的数据进行某些查询。
请阅读Ory at Rounds的这篇文章,详细介绍了他们如何使用这两篇文章:
https://www.rounds.com/blog/collecting-user-data-and-usage/
这两个最重要的标题总结了他们两个理由: