有关在Redis中存储此数据(JSON)而不覆盖现有的建议吗?

时间:2017-04-25 18:41:41

标签: python json redis

我对我要问的所有方面都不熟悉。

我正在尝试确定是否可以成功存储一些在Redis中作为JSON数据的轮询指标。

在某种程度上,我已经设法做到了。以下python脚本将轮询设备,撤回JSON数据然后使用(rejson - https://redislabs.com/blog/redis-as-a-json-store/)我可以将该json数据推送到Redis。

以下是代码:

# !/usr/bin/env python
from __future__ import print_function
from functools import wraps
from pprint import pprint
import time
import sys
import acos_client as acos
import redis
import json

c = acos.Client('10.10.10.10', acos.AXAPI_21, 'username', 'password')

data = c.slb.service_group.stats('SG_SITE1.BUSINESS.COM_443')

# Open a connection to redis
r = redis.StrictRedis()

# Store the document
r.execute_command('JSON.SET', 'data', '.', json.dumps(data))

# Retrieve it
reply = json.loads(r.execute_command('JSON.GET', 'data'))

这是拉出然后存储在Redis中的数据:

{u'service_group_stat': {u'cur_conns': 344,
                         'date': '04-25-2017',
                         u'member_stat_list': [{u'cur_conns': 66,
                                                u'req_bytes': 1476212423,
                                                u'req_pkts': 10449342,
                                                u'resp_bytes': 33132743858,
                                                u'resp_pkts': 25652317,
                                                u'server': u'WWW0006',
                                                u'tot_conns': 172226},
                                               {u'cur_conns': 64,
                                                u'req_bytes': 1666275823,
                                                u'req_pkts': 11982676,
                                                u'resp_bytes': 37575461036,
                                                u'resp_pkts': 29175599,
                                                u'server': u'WWW0005',
                                                u'tot_conns': 205244},
                                               {u'cur_conns': 89,
                                                u'req_bytes': 1671222671,
                                                u'req_pkts': 11940864,
                                                u'resp_bytes': 37064038202,
                                                u'resp_pkts': 28747313,
                                                u'server': u'WWW0004',
                                                u'tot_conns': 195789},
                                               {u'cur_conns': 37,
                                                u'req_bytes': 94117510958,
                                                u'req_pkts': 585916896,
                                                u'resp_bytes': 1860691638618,
                                                u'resp_pkts': 1439228725,
                                                u'server': u'WWW0003',
                                                u'tot_conns': 7366402},
                                               {u'cur_conns': 42,
                                                u'req_bytes': 98580368121,
                                                u'req_pkts': 642797814,
                                                u'resp_bytes': 1934241923560,
                                                u'resp_pkts': 1498242871,
                                                u'server': u'WWW0002',
                                                u'tot_conns': 7221995},
                                               {u'cur_conns': 46,
                                                u'req_bytes': 94886760323,
                                                u'req_pkts': 593577169,
                                                u'resp_bytes': 1863028601218,
                                                u'resp_pkts': 1441197389,
                                                u'server': u'WWW0001',
                                                u'tot_conns': 7260787}],
                         u'name': u'SG_SITE1.BUSINESS.COM_443',
                         u'req_bytes': 292398350319,
                         u'req_pkts': 1856664761,
                         u'resp_bytes': 5765734406492,
                         u'resp_pkts': 4462244214,
                         'time': '11:00:00',
                         u'tot_conns': 22422443}}

当我在Redis中检查“数据”时,我看到被推送的数据/ json:

127.0.0.1:6379> json.get data
"{\"service_group_stat\":{\"status\":3,\"protocol\":2,\"name\":\"SG_SITE1.BUSINESS.COM_443\",\"cur_reqs\":0,\"resp_pkts\":4472667457,\"cur_conns\":306,\"total_reqs\":0,\"total_reqs_succ\":0,\"req_pkts\":1860880754,\"req_bytes\":293088668161,\"member_stat_list\":[{\"status\":1,\"resp_bytes\":35542787582,\"cur_reqs\":0,\"resp_pkts\":27513984,\"cur_conns\":72,\"total_reqs\":0,\"server\":\"WWW0006\",\"req_pkts\":11202756,\"req_bytes\":1601613790,\"total_reqs_succ\":0,\"tot_conns\":181675,\"port\":81},{\"status\":1,\"resp_bytes\":39991941399,\"cur_reqs\":0,\"resp_pkts\":31033672,\"cur_conns\":45,\"total_reqs\":0,\"server\":\"WWW0005\",\"req_pkts\":12730038,\"req_bytes\":1788901352,\"total_reqs_succ\":0,\"tot_conns\":214379,\"port\":81},{\"status\":1,\"resp_bytes\":38939383008,\"cur_reqs\":0,\"resp_pkts\":30207188,\"cur_conns\":41,\"total_reqs\":0,\"server\":\"WWW0004\",\"req_pkts\":12545969,\"req_bytes\":1770117987,\"total_reqs_succ\":0,\"tot_conns\":203326,\"port\":81},{\"status\":1,\"resp_bytes\":1863483461334,\"cur_reqs\":0,\"resp_pkts\":1441396536,\"cur_conns\":34,\"total_reqs\":0,\"server\":\"WWW0003\",\"req_pkts\":586827719,\"req_bytes\":94258771440,\"total_reqs_succ\":0,\"tot_conns\":7378462,\"port\":81},{\"status\":1,\"resp_bytes\":1935723181356,\"cur_reqs\":0,\"resp_pkts\":1499389206,\"cur_conns\":48,\"total_reqs\":0,\"server\":\"WWW0002\",\"req_pkts\":643286283,\"req_bytes\":98658443365,\"total_reqs_succ\":0,\"tot_conns\":7228301,\"port\":81},{\"status\":1,\"resp_bytes\":1865535919223,\"cur_reqs\":0,\"resp_pkts\":1443126871,\"cur_conns\":66,\"total_reqs\":0,\"server\":\"WWW0001\",\"req_pkts\":594287989,\"req_bytes\":95010820227,\"total_reqs_succ\":0,\"tot_conns\":7271565,\"port\":81},{\"status\":0,\"resp_bytes\":0,\"cur_reqs\":0,\"resp_pkts\":0,\"cur_conns\":0,\"total_reqs\":0,\"server\":\"WWW03\",\"req_pkts\":0,\"req_bytes\":0,\"total_reqs_succ\":0,\"tot_conns\":0,\"port\":81},{\"status\":0,\"resp_bytes\":0,\"cur_reqs\":0,\"resp_pkts\":0,\"cur_conns\":0,\"total_reqs\":0,\"server\":\"WWW01\",\"req_pkts\":0,\"req_bytes\":0,\"total_reqs_succ\":0,\"tot_conns\":0,\"port\":81},{\"status\":0,\"resp_bytes\":0,\"cur_reqs\":0,\"resp_pkts\":0,\"cur_conns\":0,\"total_reqs\":0,\"server\":\"WWW02\",\"req_pkts\":0,\"req_bytes\":0,\"total_reqs_succ\":0,\"tot_conns\":0,\"port\":81}],\"time\":\"13:20:57\",\"date\":\"04-25-2017\",\"resp_bytes\":5779216673902,\"tot_conns\":22477708}}"

到目前为止它会出现这么好吗?

问题是我不确定如何在不覆盖现有“数据”的情况下正确处理下一组数据?

我意识到这就是将它作为“数据”保存到redis:

r.execute_command('JSON.SET', 'data', '.', json.dumps(data))

目标是拥有多组此数据,因为它包含日期和时间。

我希望使用它来存储每个“service_groups”及其附带的服务器每5分钟拉出一小时的这些指标。

所以我对学习和理解如何实现这个目标非常感兴趣?

**其他细节/对问题的回应**

最终目标是能够使用某种图形/报告工具,该工具可以访问数据并显示给定时间段内“service_group”的指标,以及扩展“service_group”的能力,并查看与“service_group”中的每个成员/服务器关联的指标。

1 个答案:

答案 0 :(得分:2)

Redis中的每个键(data)都是一个数据结构,在您的情况下,数据结构是一个JSON文档。至少有两种方法可以“保存多个集合”:1)使用多个键和/或2)在密钥内使用JSON嵌套。

Redis可以容纳很多键(确切地说是2 ^ 32-1)。您可以将每个JSON文档存储在不同的密钥下。密钥名称应该是唯一的,因此名称和时间戳的组合可以实现,即:

...
name = 'SG_SITE1.BUSINESS.COM_443'
data = c.slb.service_group.stats(name)
...
keyname = '{}:{}'.format(name, data['service_group_stat']['date'])
r.execute_command('JSON.SET', keyname, '.', json.dumps(data))
...

使用另一种方式,即使用一个密钥(例如dataSG_SITE1.BUSINESS.COM_443)但在其中嵌套多个文档,可以实现,例如,如果您将文档视为每个密钥的对象也许是日期,即:

{'04-25-2017': 
    {u'service_group_stat': {u'cur_conns': 344,
                         'date': '04-25-2017',
...
    },
 '04-24-2017':
    {u'service_group_stat': {u'cur_conns': 344,
                         'date': '04-24-2017',
...

所以基本上,它会是这样的:

...
name = 'SG_SITE1.BUSINESS.COM_443'
data = c.slb.service_group.stats(name)
...
path = '.["{}"]'.format(data['service_group_stat']['date'])
r.execute_command('JSON.SET', name, path, json.dumps(data))
...

当然,真正的问题是,一旦数据到位,您想对数据做些什么;)

P.S。对于我对电子邮件的延迟表示歉意 - 这是一个讨论该主题的更好的媒介,因为它可能对后代产生好处:P