从RRDTool中删除数据

时间:2012-04-24 13:08:19

标签: rrdtool rrd

我有几张由RRDTool创建的图表,可以在几个小时的时间段内收集错误的数据。

如何在该时间段内从RRD中删除数据,使其不再显示?

4 个答案:

答案 0 :(得分:10)

我发现这样做的最佳方法......

  1. 使用RRDTool Dump将RRD文件导出为XML。
  2. 打开XML文件,查找并编辑错误数据。
  3. 使用RRDTool Restore恢复RRD文件。

答案 1 :(得分:4)

我有一个类似的问题,我想从我的RRDtool数据库丢弃最近几个小时,所以我写了一个快速脚本来做这件事(为非常规变量名称道歉 - 从工作继承的编码风格,叹息):< / p>

#!/usr/bin/env python2                                                                                                                                                                                 
"""                                                                                                                                                                                                    
Modify XML data generated by `rrdtool dump` such that the last update was at                                                                                                                           
the unixtime specified (decimal). Data newer than this is simply omitted.                                                                                                                              

Sample usage::                                                                                                                                                                                         

    rrdtool dump foo.rrd \
       | python remove_samples_newer_than.py 1414782122 \
       | rrdtool restore - foo_trimmed.rrd                                                                                          
"""                                                                                                                                                                                                    

import sys                                                                                                                                                                                             

assert sys.argv[1:], "Must specify maximum Unix timestamp in decimal"                                                                                                                                  

iMaxUpdate = int(sys.argv[1])

for rLine in iter(sys.stdin.readline, ''):                                                                                                                                                             
    if "<lastupdate>" in rLine:                                                                                                                                                                        
        # <lastupdate>1414782122</lastupdate> <!-- 2014-10-31 19:02:02 GMT -->                                                                                                                         
        _, _, rData = rLine.partition("<lastupdate>")                                                                                                                                                  
        rData, _, _ = rData.partition("</lastupdate")                                                                                                                                                  
        iLastUpdate = int(rData)                                                                                                                                                                       
        assert iLastUpdate < iMaxUpdate, "Last update in RRD older than " \                                                                                                                            
                                    "the time you provided, nothing to do"                                                                                                                             
        print "<lastupdate>{0}</lastupdate>".format(iMaxUpdate)                                                                                                                                        
    elif "<row>" in rLine:                                                                                                                                                                             
        # <!-- 2014-10-17 20:04:00 BST / 1413572640 --> <row><v>9.8244774011e+01</v><v>8.5748587571e-01</v><v>4.2046610169e+00</v><v>9.3016101695e+01</v><v>5.0000000000e-02</v><v>1.6652542373e-01</  v><v>1.1757062147e+00</v><v>1.6901226735e+10</v><v>4.2023108608e+09</v><v>2.1457537707e+08</v><v>3.9597816832e+09</v><v>6.8812800000e+05</v><v>3.0433198080e+09</v><v>6.0198912250e+06</v><v>2.        0000000000e+00</v><v>0.0000000000e+00</v></row>                                                                                                                                                        
        rData, _, _ = rLine.partition("<row>")                                                                                                                                                         
        _, _, rData = rData.partition("/")                                                                                                                                                             
        rData, _, _ = rData.partition("--")                                                                                                                                                            
        rData = rData.strip()                                                                                                                                                                          
        iUpdate = int(rData)                                                                                                                                                                           
        if iUpdate < iMaxUpdate:                                                                                                                                                                       
            print rLine,                                                                                                                                                                               
    else:                                                                                                                                                                                              
        print rLine,                                                                                                                                                                                   

为我工作。希望它可以帮助别人。

答案 2 :(得分:2)

如果你想避免编写和编辑xml文件,因为这可能需要很少的文件IO调用(基于你有多少坏数据),你也可以使用内存中的fetch和update值将整个rrd读入内存。

我使用python + rrdtool做了类似的任务,我最终做了:

  
      
  1. 在字典中读取内存中的rrd
  2.   
  3. 修复词典中的值
  4.   
  5. 删除现有的rrd文件
  6.   
  7. 创建具有相同名称的新rrd。
  8.   

答案 3 :(得分:0)

唯一提出修改者的是RobM。我尝试了他的解决方案,但它在rrdtool 1.4.7

中对我没用

我的数据库使用AVERAGE,MAX和MIN。它包含DERIVE,GAUGE和COMPUTED。间隔:秒(70),分钟(70),小时(25),日(367)。 我的任务:删除最后一部分(典型原因:时钟倒退)。

我应用了RobM的解决方案:更改为我的新结束时间,然后删除所有结束时间。恢复的数据库似乎是正常的。但它不接受新的补充。 我检查了一个新创建的空数据库。我用NaN发现了70秒的记录,分钟和小时相同。

所以,我的工作解决方案 - 如果我在某个时段结束时删除记录,我会在此期间开始添加相同数量的NaN记录,并正确减少时间。例外 - 每日记录,仅在没有添加的情况下删除它们。 如果删除后句点变为空,我将填充NaN记录,结束到我的新结束时间(四舍五入到句点边界)。