我有一个这样的用例
- 从与模式匹配的 cloudwatch 日志组中过滤日志
- 将它们作为 csv 定期转换并推送到 s3
- 将 s3 文件推送到雪花仓库(此集成存在)
- 将它们用于分析,以构建汇总报告。
挑战在于日志量巨大,每天有百万条记录。
执行此操作的最佳选择是什么?有什么优点和缺点?
- cloudwatch > firehose 订阅过滤器 > firehose > lambda
变换 > s3
- cloudwatch > lambda 订阅过滤器 > 使用自定义代码写入 s3 的 lambda 转换
- 在 AWS 内构建报告(但不涉及太多成本)然后公开发布的任何其他选项?