使用交叉过滤器减少数据点的数量

时间:2019-04-17 16:26:02

标签: d3.js dc.js crossfilter

比方说,我有一个价值100年的月度数据,总共1200个数据点,请参阅底部。

要绘制细小的总览折线图(例如,仅100个数据点),我必须通过分组手动进行。例如,按年份对数据进行分组,然后获得12个月的平均值,对每个组进行迭代,最后将数据点减少到100。

代替这种方法,是否有使用交叉过滤器或任何其他库的便捷方法?

[
    { date: 1900-01, value: 72000000000},
    { date: 1900-02, value: 58000000000},
    { date: 1900-03, value:  2900000000},
    { date: 1900-04, value: 31000000000},
    { date: 1900-05, value: 33000000000},
    ...
    { date: 1999-11, value: 30000000000},
    { date: 1999-12, value: 10000000000},
]

2 个答案:

答案 0 :(得分:0)

假设您的问题仅与生成数据有关,则可以使用d3-nest(不使用交叉过滤器)对每年进行平均:

解析日期值,然后可以将日期格式化为年份以创建密钥。这会按键对值进行分组,然后使用函数汇总这些值以计算给定年份的平均值:

var parse = d3.timeParse("%Y-%m");  // takes: "1900-01"
var format = d3.timeFormat("%Y");   // gives: "1900"

var means = d3.nest()
  .key(function(d) { return format(parse(d.date)); })
  .rollup(function(values) { return d3.mean(values, function(d) {return d.value; }) })
  .entries(data);

这为我们提供了以下结构:

[
  {
    "key": "1900",
    "value": 39380000000
  },
  {
    "key": "1999",
    "value": 20000000000
  }
]

var data = [
    { date: "1900-01", value: 72000000000},
    { date: "1900-02", value: 58000000000},
    { date: "1900-03", value:  2900000000},
    { date: "1900-04", value: 31000000000},
    { date: "1900-05", value: 33000000000},
    { date: "1999-11", value: 30000000000},
    { date: "1999-12", value: 10000000000},
];

var parse = d3.timeParse("%Y-%m");
var format = d3.timeFormat("%Y");

var means = d3.nest()
    .key(function(d) { return format(parse(d.date)); })
    .rollup(function(values) { return d3.mean(values, function(d) {return d.value; }) })
    .entries(data);
    
console.log(means);
<script src="https://cdnjs.cloudflare.com/ajax/libs/d3/5.7.0/d3.min.js"></script>

答案 1 :(得分:0)

无论使用哪种库,它都是相同的算法,只是指定方法不同。在这种情况下,d3.nest可能是执行此操作的最简单方法,但是如果您想进行快速过滤,则交叉过滤器的方法还不错。

使用d3.nest和crossfilter的区别在于我们不是在构造一个值数组,而只是构造一个值。因此,我们将保持总和和计数。

我们还需要指定从bin中删除一行时会发生什么。

var parse = d3.timeParse("%Y-%m");
data.forEach(function(d) {
  // it's best to convert fields before passing to crossfilter
  // because crossfilter will look at them many times
  d.date = parse(d.key);
});
var cf = crossfilter(data);
var yearDim = cf.dimension(d => d3.timeYear(d.date));
var yearAvgGroup = yearDim.group().reduce(
  function(p, v) { // add
    p.sum += v.value;
    ++p.count;
    p.avg = p.sum/p.count;
    return p;
  },
  function(p, v) { // remove
    p.sum -= v.value;
    --p.count;
    p.avg = p.count ? p.sum/p.count : 0;
    return p;
  },
  function() { // init
    return {sum: 0, count: 0, avg: 0};
  }
);

现在yearAvgGroup.all()将返回一个键/值对数组,其中键是年份,并且值包含sumcountavg。 / p>

Crossfilter并没有特别方便解决此问题,但是reductio为此提供了一个辅助功能:

var yearAvgGroup = yearDim.group();
reductio().avg(d => d.value);

注意:除非您有大量数据,这无关紧要,但是只计算组中的总和和计数,并在需要时计算平均值会更有效。

如果您使用的是dc.js,则可以使用valueAccessor

// remove avg lines from the above, and
chart.dimension(yearDim)
  .group(yearAvgGroup)
  .valueAccessor(kv => kv.value.sum / kv.value.count);