有关复制方案/算法的文章?

时间:2010-03-18 09:38:30

标签: database language-agnostic replication scalability fault-tolerance

我正在设计一个分布式系统,其中包含一定的数据流。我想保证在任何给定时间至少有N个节点具有几乎当前的数据。 我不需要完全一致性,只需要最终的一致性(t.i.任何时刻,数据的当前快照最终应该出现在至少N个节点上。在这里定义术语“当前”是很棘手的,但仍然)。节点可能会失败并随时返回,并且没有单个“中央”节点。

O溢出者!请给我一些描述复制方案的好文章。到目前为止,我发现了一篇:Consistency Management in Optimistic Replication Algorithms以及同一作者撰写的更为广泛的近期文章:Optimistic Replication

2 个答案:

答案 0 :(得分:1)

很多诀窍就是找到你的确切要求,你的听起来仍然很模糊。你只需要支持这样的操作吗?

  • 将密钥K更新为值V.
  • 查找关键K的近期值。

你提到你需要最终的一致性。因此,如果您进行单个更新,它最终将在任何地方复制。如果你做了两个几乎同时发生的更新,你关心哪一个获胜?如果一个副本报告已成功完成更新,您是否关心如果该副本在之后不久暂时崩溃,该值是否会丢失?或者,如果该副本被永久销毁?

最近有多精确?如果有netsplit或其他东西,查找可能会返回一个非常陈旧的结果或只是失败。你关心哪个?

你是否需要支持像......这样的高级运营?

  • 获取密钥K的绝对最新值?
  • 如果最新值为V?
  • ,则将密钥K的值更新为值V'

您是否有严格的可靠性,延迟和/或带宽要求?您的副本/网络之间的距离有多远?如果您可以在每次更新甚至每次查找时进行跨副本通信,则会产生这种影响;或者即使您可以/应该将操作故障转移到远程副本,如果本地的副本似乎已关闭。

根据您在这里的答案,我使用了几种可能符合您要求的不同方案。它们有几种可能的变化。

  • 最简单的方法是让应用程序始终与本地副本通信。副本时间戳值(使用NTP同步时钟)并且仅相互通信以进行异步复制。最高时间戳在复制中获胜。当然,如果两个不同副本上的应用程序各自同时进行读取/修改/写入,则其中一个修改很容易丢失。 (实际上,如果没有条件更新方案,对同一副本上的近同步更改也是如此。)如果副本永久失败,则可能会丢失最近的更新。这或多或少是Bigtable的内置复制所做的。在您链接的论文中,它是“乐观 - 多主管”分支,但不会过多关注丢失一些更新,这使得它比他们建议的更简单。
  • 有些数据库使用Paxos算法(例如,参见“Internet规模单点登录的数据管理”here,以使更好的事情成为可能。每个副本都可以知道它可能有多远,所以你可以说“给我一个不超过1分钟的价值”或“给我一个绝对的最新价值”。在法定人数的复制品接受之前,更新不算完整,所以“给我绝对的最新价值”将肯定总是返回那个值,直到另一个更新发生。你可以做我提到的条件更新操作,以防止同时写作者互相踩踏。这似乎不适合那个作者所定义的乐观或悲观类别,因为更新同步复制到法定人数,但在最新的Paxos轮次中没有投票的复制品仍然可以回答一些问题。虽然这个方案可能非常复杂......

答案 1 :(得分:0)

不与RDBMS无关,但SQL Server 2008(2005年起)支持Peer-To-Peer Replication