使用Logstash过滤器创建新字段

时间:2015-11-02 14:10:18

标签: filter logstash logstash-grok logstash-configuration logstash-file

我已经开始编写自己的Logstash过滤器,基于Github上提供的示例过滤器:

  

https://github.com/logstash-plugins/logstash-filter-example

我的新过滤器从名为Classficiation.jar的jar文件中读取。我想从text获取值,并在此基础上对这些文本进行分类。这将需要创建一个新字段并在其中添加分类。

操作应该导致以下结果:

INPUT

{"text" : "This is a happy thought :)"}

输出

{"text" : "This is a happy thought :)", "classification" : "Positive"}

然而......我不确定如何创造这个新领域。如您所见,该类采用一个参数,即文本。

我非常感谢如何为此logstash过滤器的输出创建新字段的指导。

# encoding: utf-8
require "logstash/filters/base"
require "logstash/namespace"
require 'java'
require 'Classficiation.jar'

import 'classficiation.Classficiation'

class LogStash::Filters::Classify < LogStash::Filters::Base

  # This is how to configure this filter from Logstash config.
  #
  # filter {
  #   classify {
  #   }
  # }
  #
  config_name "classify"


  t = Java::classficiation::Classficiation.new
  result = t.Classify(:text)
  # This should return a classification for the text, either positive
  # or negative

  public
  def register
  end

  public
  def filter(event)    
    ..........

    filter_matched(event)
  end
end

谢谢。

更新

我按照@hurb提供给我的说明编辑了我的文件,看起来像这样:

# encoding: utf-8
require "logstash/filters/base"
require "logstash/namespace"
require 'java'
require 'Classficiation.jar'

import 'classficiation.Classficiation'

class LogStash::Filters::Classify < LogStash::Filters::Base

  config_name "classify"

  t = Java::classficiation::Classficiation.new

  public
  def register
  end

  public
  def filter(event)    
    event["result"] = t.Classify(event["text"])
    filter_matched(event)
  end
end

然而,这开始给我错误:

NameError: undefined local variable or method 'Classify' for #<LogStash::Filters::Classify:0x44850d11>

当我尝试在t = Java::classficiation::Classficiation.new中加入filter时,它会给我一个错误:

dynamic constant assignment

为什么??? ???

1 个答案:

答案 0 :(得分:0)

您可以在课程结束时访问filter(event)函数中的所有事件字段。可以使用event参数访问字段:event["message"]。因此,event["result"] = t.Classify(event["text"])之类的内容可能就是您要查找的内容(它会创建一个新字段result

但是,我认为您的代码还存在其他一些问题。请仔细检查您的filter(event)功能。似乎有一个不必要的end。我不确定java导入,但我认为它应该是java_import 'classficiation.Classficiation'而不是import

像这样开始:

# encoding: utf-8
require "logstash/filters/base"
require "logstash/namespace"
require 'java'
require 'Classficiation.jar'

java_import 'classficiation.Classficiation'

class LogStash::Filters::Classify < LogStash::Filters::Base

  config_name "classify"

  public
  def register
  end

  public
  def filter(event)    
     t = Java::classficiation::Classficiation.new
     event["result"] = t.Classify(event["text"])
     filter_matched(event)
  end

end

如果您需要进一步的帮助,请与我们联系。

更新

为了调试你的jruby代码,我建议在logstash之外测试它的功能。这样的事情应该有效:

#!/usr/bin/env jruby

require 'java'
java_import 'classficiation.Classficiation'
t = Classficiation.new
result = t.Classify("foobar")
puts result

您可以尝试执行这样的脚本,看看它是否提供了所需的输出。然后尝试将其迁移到logstash过滤器。