Fluentd是否支持文件输出的日志轮换?

时间:2018-04-03 14:05:08

标签: ruby docker logging fluentd

我正在使用的当前设置是具有多个容器的Docker组合堆栈。这些容器将其日志记录信息发送到运行Fluentd守护程序的日志记录容器(在compose堆栈内)。 Fluentd的配置包含一个in_forward源,它收集日志并将它们写入单独的文件,具体取决于容器。我的Fluentd配置文件看起来类似于:

<source>
  @type forward
  port 24224
  bind 0.0.0.0
</source>

<match container1>
   @type copy
   <store>
     @type file
     path /fluentd/log/container1.*.log
     format single_value
     message_key "log"
   </store>
</match>

...

我的docker-compose.yml文件看起来像这样:

version: '3'

services:

  container1:
    build: ./container1
    container_name: "container1" 
    depends_on:
     - "logger" 
    logging:
      driver: "fluentd"
      options:
        tag: container1  
    networks:
      static-net:
        ipv4_address: 172.28.0.4  


  ...


  logger:
    build: ./logger
    container_name: "logger"
    ports:
     - "24224:24224"
     - "24224:24224/udp"
    volumes:
     - ./logger/logs:/fluentd/log
    networks:
      static-net:
        ipv4_address: 172.28.0.5          

networks:
  static-net:
    ipam:
      driver: default
      config:
       - subnet: 172.28.0.0/16

一切都按预期工作,但我希望设置Fluentd以保留一定数量的日志文件。我可以通过在缓冲区中配置chunk_limit_size参数来更改日志文件的大小。但是,即使我想要这个选项,我仍然不希望Fluentd写出无穷无尽的文件。缓冲区配置中的buffer_queue_limitoverflow_action似乎不会影响任何内容。一旦部署,该应用程序将连续运行,因此日志轮换是必需的。我有几个问题:

  1. Fluentd是否支持将日志写入文件的日志轮换?如果是,我在Fluentd配置文件中设置了哪些参数?
  2. 如果没有,我可以配置Docker,以便我可以利用其为Fluentd的json日志驱动程序的日志轮换吗?
  3. 如果那是不可能的,有没有办法通过插件或可能在Fluentd docker容器本身(或边车容器)中将日志轮换添加到Fluentd?

1 个答案:

答案 0 :(得分:0)

当您使用Docker的流畅日志记录驱动程序时,没有容器日志文件,只有流利的日志,要旋转它们,您可以使用this link. 如果您希望docker保留日志并旋转它们,那么您必须从以下位置更改堆栈文件:

    logging:
      driver: "fluentd"
      options:
        tag: container1  

  logging:
   driver: "json-file"
   options:
      max-size: "5m" #max size of log file
      max-file: "2" #how many files should docker keep

在流利的情况下,您必须使用in_tail插件而不是转发(流利的应该可以访问/var/lib/docker/containers/*/*-json.log中的日志文件)

<source>
  type tail
  read_from_head true
  pos_file fluentd-docker.pos
  path /var/lib/docker/containers/*/*-json.log
  tag docker.*
  format json
</source>