Cloudwatch 登录到雪花仓库

时间:2021-04-16 20:09:36

标签: amazon-web-services snowflake-cloud-data-platform amazon-cloudwatch

我有一个这样的用例

  1. 从与模式匹配的 cloudwatch 日志组中过滤日志
  2. 将它们作为 csv 定期转换并推送到 s3
  3. 将 s3 文件推送到雪花仓库(此集成存在)
  4. 将它们用于分析,以构建汇总报告。

挑战在于日志量巨大,每天有百万条记录。 执行此操作的最佳选择是什么?有什么优点和缺点?

  • cloudwatch > firehose 订阅过滤器 > firehose > lambda
    变换 > s3
  • cloudwatch > lambda 订阅过滤器 > 使用自定义代码写入 s3 的 lambda 转换
  • 在 AWS 内构建报告(但不涉及太多成本)然后公开发布的任何其他选项?

0 个答案:

没有答案