在一个索引中计算每个字段的所有出现次数

时间:2019-01-07 14:31:16

标签: python elasticsearch elasticsearch-aggregation

我想为一个索引计算我的Elasticsearch数据库中每个字段有多少个条目。我尝试使用下面的代码,但这仅返回条目的总数。我正在使用Python。

到目前为止,我已经尝试过:

qry = {
"aggs": {
"field": {
"terms" : {"field": "field"}
}
}, "size": 0
}

r = es.search(body=qry,
              index="webhose_english")

我当前的结果:

Out[64]: 
{'_shards': {'failed': 0, 'skipped': 0, 'successful': 5, 'total': 5},
'aggregations': {'field': {'buckets': [],
'doc_count_error_upper_bound': 0,
'sum_other_doc_count': 0}},
'hits': {'hits': [], 'max_score': 0.0, 'total': 4519134},
'timed_out': False,
'took': 16}

理想情况下,我会喜欢这样的东西:

{'field_1': 321,
 'field_2': 231,
 'field_3': 132}

2 个答案:

答案 0 :(得分:1)

该信息曾经是_field_stats API的一部分,但是在6.0中已被删除。因此,您处在正确的轨道上,您将需要一个汇总。我认为value_count是您所需要的文件,并且出于很好的考虑,我还添加了global,所以我们知道总共有多少文件。

三个示例文档:

PUT foo/_doc/1
{
  "foo": "bar"
}
PUT foo/_doc/2
{
  "foo": "bar",
  "bar": "bar"
}
PUT foo/_doc/3
{
  "foo": "bar",
  "bar": "bar",
  "baz": "bar"
}

聚合(我不确定是否可能会有一个较短的版本,尤其是在许多字段中):

GET foo/_search
{
  "aggs": {
    "count_fields": {
      "global": {},
      "aggs": {
        "count_foo": {
          "value_count": {
            "field": "foo.keyword"
          }
        },
        "count_bar": {
          "value_count": {
            "field": "bar.keyword"
          }
        },
        "count_baz": {
          "value_count": {
            "field": "baz.keyword"
          }
        }
      }
    }
  },
  "size": 0
}

结果:

{
  "took" : 16,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 3,
    "max_score" : 0.0,
    "hits" : [ ]
  },
  "aggregations" : {
    "count_fields" : {
      "doc_count" : 3,
      "count_foo" : {
        "value" : 3
      },
      "count_bar" : {
        "value" : 2
      },
      "count_baz" : {
        "value" : 1
      }
    }
  }
}

答案 1 :(得分:0)

我通过遍历以下查询,然后在字典中收集“总计”值来做到这一点:

qry = {
"query": {
"exists": {
"field": "fields_to_iterate"
}
}
}