在将数据转换为直方图之前,如何重新整形数据?

时间:2016-03-17 18:56:08

标签: c# elasticsearch nest

想象一下,我的访问索引包含“访问”类型的文档,如下所示:

{
               "id": "c223a991-b4e7-4333-ba45-a576010b568b",
// other properties
               "buildingId": "48da1a81-fa73-4d4f-aa22-a5750162ed1e",
               "arrivalDateTimeUtc": "2015-12-22T21:15:00Z"
}

以下函数将返回一个直方图,该直方图根据给定的时区返回给定范围内每一天的访问量。

    public Bucket<HistogramItem> Execute(MyParameterType parameters)
    {
        var buildingFilter = Filter<VisitProjection>.Term(x => x.BuildingId, parameters.BuildingId);
        var dateFilter = Filter<VisitProjection>.Range(r => r
            .OnField(p => p.ArrivalDateTimeUtc)
            .GreaterOrEquals(parameters.EarliestArrivalDateTimeUtc)
            .LowerOrEquals(parameters.LatestArrivalDateTimeUtc)
        );

        var result = _elasticClient.Search<VisitProjection>(s => s
            .Index("visits")
            .Type("visit")
            .Aggregations(a => a
                .Filter("my_filter_agg", f => f
                    .Filter(fd => buildingFilter && dateFilter)
                        .Aggregations(ta => ta.DateHistogram("my_date_histogram", h => h
                            .Field(p => p.ArrivalDateTimeUtc)
                            .Interval(parameters.DateInterval) // "day"
                            .TimeZone(NodaTimeHelpers.WindowsToIana(parameters.TimeZoneInfo)) // This is a critical piece of the equation.
                            .MinimumDocumentCount(0)
                        )
                    )
                )
            )
        );

        return result.Aggs.Nested("my_filter_agg").DateHistogram("my_date_histogram");
    }
}

// Returns [{Date: 12/22/2015 12:00:00 AM, DocCount: 1}]

现在想象我改变了一点。想象一下,我在文档中添加了一个新字段:

{
               "id": "c223a991-b4e7-4333-ba45-a576010b568b",
// other properties
               "buildingId": "48da1a81-fa73-4d4f-aa22-a5750162ed1e",
               "arrivalDateTimeUtc": "2015-12-22T21:15:00Z",
               "departureDateTimeUtc": "2015-12-23T22:00:00Z" // new property
}

并假设我想要返回以下内容:

// Returns [{Date: 12/22/2015 12:00:00 AM, DocCount: 1}, {Date: 12/23/2015 12:00:00 AM, DocCount: 1}]

因为访问时间跨度为两天,我想要一个日期直方图,记录访问跨越的每一天的单位。

如何使用NEST / Elastic Search进行此操作?

注1:除非有人说服我,否则我不认为收集范围内的所有文件并在中间层(或C#层)执行聚合/ bucketization和日期直方图是个好主意。< / p>

注意2:此问题的时区方面至关重要,因为我需要根据给定的时区对计数进行bucketized。

2 个答案:

答案 0 :(得分:4)

一种方法是使用scripted_metric aggregation并根据您的两个日期字段自行执行分组。根据您拥有的文档数量,它非常复杂且不具备高性能。

然而,另一个更简单的解决方案可能是使用单个日期字段并将间隔的所有日期放入数组(首先到达,最后出发以及中间的所有其他日期),如下所示:

{
     "id": "c223a991-b4e7-4333-ba45-a576010b568b",
     "buildingId": "48da1a81-fa73-4d4f-aa22-a5750162ed1e",
     "visitDateTimeUtc": ["2015-12-22T21:15:00Z", "2015-12-23T22:00:00Z" ]
}

如果访问时间跨度为三/四/等天,您只需填写&#34;到达和离开之间的天数

{
     "id": "c223a991-b4e7-4333-ba45-a576010b568b",
     "buildingId": "48da1a81-fa73-4d4f-aa22-a5750162ed1e",
     "visitDateTimeUtc": ["2015-12-22T21:15:00Z", "2015-12-23T22:00:00Z", "2015-12-24T22:00:00Z", "2015-12-25T22:00:00Z" ]
}

通过这样做,date_histogram聚合将考虑间隔的所有日期。

答案 1 :(得分:1)

我会考虑通过在你的ES模型上为VisitDays添加一个新的数组属性来解决这个问题,所以如果有人留在2015年1月1日到2015年1月5日,那么你的模型会是这样的:

{
    "id" : "c223a991-b4e7-4333-ba45-a576010b568b",
    // other properties
    "buildingId" : "48da1a81-fa73-4d4f-aa22-a5750162ed1e",
    "arrivalDateTimeUtc" : "2015-01-01T21:15:00Z",
    "departureDateTimeUtc" : "2015-01-05T22:00:00Z", // new property
    "visitDays" : [
        "2015-01-01",
        "2015-01-02",
        "2015-01-03",
        "2015-01-04",
        "2015-01-05"
    ]
}

如果您这样做,那么您的分组将非常简单且非常快。脚本字段不会很快。并且你是100%正确的,试图在C#中执行此操作是行不通的,因为它会太慢。