有没有办法使用redis我们可以写回hbase

时间:2011-10-13 12:55:12

标签: node.js redis hbase

据我所知,redis只能在二进制文件中后写。但是我们的软件要求是使用任何兼容的分布式地图(redis)写入hbase。使用redis时我们可以写任何方法来写hbase。

1 个答案:

答案 0 :(得分:3)

无法自定义文件的写入方式。它将写入磁盘,你无能为力。

你应该做的是使用外部调度进程(可能使用cron)定期获取Redis文件,然后将其转储到HBase中。

如果适合您的情况和需求,您可以通过几种方式自定义此流程,使其更加强大:

  • 在开始摄取过程之前执行BGSAVE以确保您拥有最新的转储。
  • 在将文件摄入HBase之前对文件执行md5sum。检查自上次处理后md5sum是否发生了变化。如果Redis实例中的数据不经常更改,这可能很有用。
  • 改为使用append only file转储。这样,您就可以跟踪已经摄入HBase的内容,然后只更新到更改。您只需跟踪上次离开的线路。如果您不想每次都转储HBase表并重新加载它,那将是很好的。