我使用MongoDB来存储我的股票价格数据。我每分钟每个股票代码有一个文件:
{
"_id" : ObjectId("535fb330f6a03d59077db43c"),
"symbol" : "AAPL",
"ts_minute" : ISODate("2014-04-29T14:12:00Z"),
"ticks" : [
{
"mu" : 115864,
"ae" : true,
"t" : 2,
"v" : 571.93
},
{
"mu" : 803378,
"ae" : true,
"t" : 2,
"v" : 571.91
},
{
"mu" : 903378,
"ae" : false,
"t" : null,
"v" : 9000
}
}
其中mu
是自ts_minute
以来的微秒距离,t
是刻度类型(出价,询问,开启,关闭,交易量等),v
是值。
要将它聚合成OHLC的细微条形(开放,高,低,关闭),我使用以下(使用PyMongo):
query = {'$match': {'symbol': 'AAPL'}}
projection = {
'$project': {
'symbol': 1,
'year': {'$year': '$ts_minute'},
'month': {'$month': '$ts_minute'},
'day': {'$dayOfMonth': '$ts_minute'},
'hour': {'$hour': '$ts_minute'},
'minute': {'$minute': '$ts_minute'},
'ts_minute': 1,
'ticks': 1
}
}
unwind = {'$unwind': '$ticks'}
sort = {'$sort': {'ts_minute': 1}}
group = {
'$group': {
'_id': {
'symbol': '$symbol',
'year': '$year',
'month': '$month',
'day': '$day',
'hour': '$hour',
'minute': '$minute'
},
'open': {'$first': '$ticks.v'},
'high': {'$max': '$ticks.v'},
'low': {'$min': '$ticks.v'},
'close': {'$last': '$ticks.v'},
}
}
bars = tick_collection.aggregate([query, projection, unwind, sort, group])
问题是我在同一个数组中存储了音量标记和价格标记。通过使t
等于null
来识别卷标记。所以你看,当我分组时,我的价格滴答和成交量混合。我想汇总到OHLCV,以便OHLC基于t
不等于null
,而V应该是t
等于null
的数组的最后一个元素
有意义吗?或者只是糟糕的架构设计? ; - )
答案 0 :(得分:2)
为了提高性能,你真的需要将$sort
移到展开之前 - 它将与$match
结合使用并使用适当的索引({symbol:1,ts_minute:1所以我希望你有那个索引可用)。该项目应该在unwind
之后创建聚合所需的价格和数量字段。您似乎应该直接按ts_minute分组。要做的更改是:
query = {'$match': {'symbol': 'AAPL'}}
sort = {'$sort': {'ts_minute': 1}}
unwind = {'$unwind': '$ticks'}
projection = {
'$project': {
'symbol': 1,
'ts_minute': 1,
'volume' : { '$cond' : [
{"$eq" : ["$ticks.t",null]},
"$ticks.v",
0
] },
"price" : { "$cond" : [
{"$eq" : ["$ticks.t",null] },
null,
"$ticks.v"
] }
}
}
group = {
'$group': {
'_id': {
'symbol': '$symbol',
'minute': '$ts_minute'
},
'open': {'$first': '$price'},
'high': {'$max': '$price'},
'low': {'$min': '$price'},
'close': {'$last': '$price'},
'volume': {'$sum': '$volume'}
}
}
bars = tick_collection.aggregate([query, sort, unwind, projection, group])