ZeroMQ,RabbitMQ和Apache Qpid之间的性能比较

时间:2011-10-27 19:34:21

标签: message-queue rabbitmq zeromq qpid

我需要为我的应用程序提供高性能消息总线,因此我正在评估ZeroMQRabbitMQApache Qpid的性能。为了衡量性能,我正在运行一个测试程序,该程序使用其中一个消息队列实现发布说10,000条消息,并在同一台机器上运行另一个进程来使用这10,000条消息。然后我记录发布的第一条消息和收到的最后一条消息之间的时差。

以下是我用于比较的设置。

  1. RabbitMQ:我使用了“扇出”类型的交换和具有默认配置的队列。我使用了RabbitMQ C客户端库。
  2. ZeroMQ:我的发布者通过tcp://localhost:port1套接字发布到ZMQ_PUSH,我的代理侦听tcp://localhost:port1并将消息重新发送到tcp:// localhost:port2和我的消费者使用tcp://localhost:port2套接字侦听ZMQ_PULL。我使用代理而不是ZeroMQ中的对等通信来使性能比较公平地与使用代理的其他消息队列实现。
  3. Qpid C ++消息代理:我使用了“扇出”类型交换和具有默认配置的队列。我使用了Qpid C ++客户端库。
  4. 以下是效果结果:

    1. RabbitMQ:收到10,000封邮件大约需要1秒钟。
    2. ZeroMQ:收到10,000封邮件大约需要15毫秒。
    3. Qpid:收到10,000封邮件大约需要4秒钟。
    4. 问题:

      1. 有人在消息队列之间运行类似的性能比较吗?然后我想将你的结果与你的结果进行比较。
      2. 我有什么方法可以调整RabbitMQQpid以提高效果吗?
      3. 注意:

        测试是在具有两个已分配处理器的虚拟机上完成的。结果可能因硬件而异,但我主要对MQ产品的相对性能感兴趣。

8 个答案:

答案 0 :(得分:91)

RabbitMQ可能正在对这些消息进行持久化。我认为您需要在消息中设置消息优先级或其他选项以不执行持久性。性能将提高10倍。您应该通过AMQP经纪人预计至少100K消息/秒。在OpenAMQ中,我们的性能高达每秒300K消息。

AMQP 是为速度而设计的(例如,它不会解包消息以便路由它们),但ZeroMQ只是以关键方式设计得更好。例如。它通过连接没有代理的节点来删除一跳;它比任何AMQP客户端堆栈都有更好的异步I / O;它做了更积极的消息批处理。也许60%的时间用于构建ZeroMQ进入性能调优。这是非常艰苦的工作。事故并不快。

我想做的一件事,但是太忙了,就是在ZeroMQ之上重建一个类似AMQP的经纪人。这里有第一层:http://rfc.zeromq.org/spec:15。整个堆栈的工作方式有点像RestMS,传输和语义分为两层。它将提供与AMQP / 0.9.1相同的功能(并且在语义上可互操作),但速度要快得多。

答案 1 :(得分:32)

嗯,当然ZeroMQ会更快,它被设计成并且没有其他两个提供的许多基于代理的功能。 ZeroMQ site对经纪人与无代理人的消息和缺点进行了精彩的比较。两者的优点。

RabbitMQ Blog

  

RabbitMQ和0MQ专注于消息传递的不同方面。 0MQ更加关注如何通过网络传输消息。另一方面,RabbitMQ专注于如何存储,过滤和监控消息。

(我也喜欢上面的RabbitMQ帖子,因为它也谈到了使用ZeroMQ和RabbitMQ)

所以,我想说的是你应该决定最符合你要求的技术。如果唯一的要求是速度,ZeroMQ。但是如果您需要其他方面,例如消息的持久性,过滤,监控,故障转移等,那么当您需要开始考虑RabbitMQ& Qpid。

答案 2 :(得分:4)

  

我在ZeroMQ中使用代理而不是对等通信,以使性能比较公平对待使用代理的其他消息队列实现。

不确定你为什么要这样做 - 如果你唯一关心的是表现,那就没有必要让比赛场地水平。如果您不关心持久性,过滤等,那么为什么要付出代价呢?

我对在VM上运行基准测试非常谨慎 - 有很多额外的层可以以不明显的方式影响结果。 (除非您计划在VM上运行真实系统,当然,在这种情况下,这是一种非常有效的方法)。

答案 3 :(得分:3)

我测试了c ++ / qpid

我在两台不同的机器之间每秒发送50000条消息很长一段时间没有排队。

我没有使用扇出,只是简单的交换(非持久性消息)

您使用的是持久性消息吗? 你在解析消息吗?

我想不是,因为0MQ没有消息结构。

如果代理主要处于空闲状态,您可能还没有在发送方和接收方上配置预取。发送许多消息非常重要。

答案 4 :(得分:1)

我们将RabbitMQ与站点http://www.udaparts.com/上的SocketPro(http://www.udaparts.com/document/articles/fastsocketpro.htm)持久性消息队列进行了比较,并包含所有源代码。以下是我们为RabbitMQ获得的结果:

同一台机器入队和出队:

  

“Hello world” -
  入队:每秒30000条消息;
  出列:每秒7000条消息。

     

1024字节的文本 -
  入队:每秒11000条消息;
  出列:每秒7000条消息。

     

10 * 1024字节的文本 -
  入队:每秒4000条消息;
  出列:每秒4000条消息。

跨机器入队并以网络带宽100 mbps出队:

  

“Hello world” -
  入队:每秒28000条消息;
  出列:每秒1900条消息。

     

1024字节的文本 -
  入队:每秒8000条消息;
  出列:每秒1000条消息。

     

10 * 1024字节的文本 -
  入队:每秒800条消息;
  出列:每秒700条消息。

答案 5 :(得分:0)

尝试使用类似100的值在发件人和接收者上配置预取。仅仅预取发件人是不够的

答案 6 :(得分:0)

我们开发了一个基于ZeroMQ构建的开源消息总线 - 我们最初这样做是为了取代Qpid。它是无代理的,因此它是一个完全公平的比较,但它提供了与代理解决方案相同的功能。

我们的标题性能数字是两台机器之间的每秒140K msgs,但您可以在此处查看更多详细信息:https://github.com/Abc-Arbitrage/Zebus/wiki/Performance

答案 7 :(得分:-3)

我认为如果你使用芹菜,Rabbitmq的性能会提高