我需要为我的应用程序提供高性能消息总线,因此我正在评估ZeroMQ
,RabbitMQ
和Apache Qpid
的性能。为了衡量性能,我正在运行一个测试程序,该程序使用其中一个消息队列实现发布说10,000条消息,并在同一台机器上运行另一个进程来使用这10,000条消息。然后我记录发布的第一条消息和收到的最后一条消息之间的时差。
以下是我用于比较的设置。
RabbitMQ
:我使用了“扇出”类型的交换和具有默认配置的队列。我使用了RabbitMQ C客户端库。ZeroMQ
:我的发布者通过tcp://localhost:port1
套接字发布到ZMQ_PUSH
,我的代理侦听tcp://localhost:port1
并将消息重新发送到tcp:// localhost:port2和我的消费者使用tcp://localhost:port2
套接字侦听ZMQ_PULL
。我使用代理而不是ZeroMQ
中的对等通信来使性能比较公平地与使用代理的其他消息队列实现。Qpid
C ++消息代理:我使用了“扇出”类型交换和具有默认配置的队列。我使用了Qpid C ++客户端库。以下是效果结果:
RabbitMQ
:收到10,000封邮件大约需要1秒钟。ZeroMQ
:收到10,000封邮件大约需要15毫秒。Qpid
:收到10,000封邮件大约需要4秒钟。问题:
RabbitMQ
或Qpid
以提高效果吗? 注意:
测试是在具有两个已分配处理器的虚拟机上完成的。结果可能因硬件而异,但我主要对MQ产品的相对性能感兴趣。
答案 0 :(得分:91)
RabbitMQ可能正在对这些消息进行持久化。我认为您需要在消息中设置消息优先级或其他选项以不执行持久性。性能将提高10倍。您应该通过AMQP经纪人预计至少100K消息/秒。在OpenAMQ中,我们的性能高达每秒300K消息。
AMQP 是为速度而设计的(例如,它不会解包消息以便路由它们),但ZeroMQ只是以关键方式设计得更好。例如。它通过连接没有代理的节点来删除一跳;它比任何AMQP客户端堆栈都有更好的异步I / O;它做了更积极的消息批处理。也许60%的时间用于构建ZeroMQ进入性能调优。这是非常艰苦的工作。事故并不快。
我想做的一件事,但是太忙了,就是在ZeroMQ之上重建一个类似AMQP的经纪人。这里有第一层:http://rfc.zeromq.org/spec:15。整个堆栈的工作方式有点像RestMS,传输和语义分为两层。它将提供与AMQP / 0.9.1相同的功能(并且在语义上可互操作),但速度要快得多。
答案 1 :(得分:32)
RabbitMQ和0MQ专注于消息传递的不同方面。 0MQ更加关注如何通过网络传输消息。另一方面,RabbitMQ专注于如何存储,过滤和监控消息。
(我也喜欢上面的RabbitMQ帖子,因为它也谈到了使用ZeroMQ和RabbitMQ)
所以,我想说的是你应该决定最符合你要求的技术。如果唯一的要求是速度,ZeroMQ。但是如果您需要其他方面,例如消息的持久性,过滤,监控,故障转移等,那么当您需要开始考虑RabbitMQ& Qpid。
答案 2 :(得分:4)
我在ZeroMQ中使用代理而不是对等通信,以使性能比较公平对待使用代理的其他消息队列实现。
不确定你为什么要这样做 - 如果你唯一关心的是表现,那就没有必要让比赛场地水平。如果您不关心持久性,过滤等,那么为什么要付出代价呢?
我对在VM上运行基准测试非常谨慎 - 有很多额外的层可以以不明显的方式影响结果。 (除非您计划在VM上运行真实系统,当然,在这种情况下,这是一种非常有效的方法)。
答案 3 :(得分:3)
我测试了c ++ / qpid
我在两台不同的机器之间每秒发送50000条消息很长一段时间没有排队。
我没有使用扇出,只是简单的交换(非持久性消息)
您使用的是持久性消息吗? 你在解析消息吗?
我想不是,因为0MQ没有消息结构。
如果代理主要处于空闲状态,您可能还没有在发送方和接收方上配置预取。发送许多消息非常重要。
答案 4 :(得分:1)
我们将RabbitMQ与站点http://www.udaparts.com/上的SocketPro(http://www.udaparts.com/document/articles/fastsocketpro.htm)持久性消息队列进行了比较,并包含所有源代码。以下是我们为RabbitMQ获得的结果:
同一台机器入队和出队:
“Hello world” -
入队:每秒30000条消息;
出列:每秒7000条消息。1024字节的文本 -
入队:每秒11000条消息;
出列:每秒7000条消息。10 * 1024字节的文本 -
入队:每秒4000条消息;
出列:每秒4000条消息。
跨机器入队并以网络带宽100 mbps出队:
“Hello world” -
入队:每秒28000条消息;
出列:每秒1900条消息。1024字节的文本 -
入队:每秒8000条消息;
出列:每秒1000条消息。10 * 1024字节的文本 -
入队:每秒800条消息;
出列:每秒700条消息。
答案 5 :(得分:0)
尝试使用类似100的值在发件人和接收者上配置预取。仅仅预取发件人是不够的
答案 6 :(得分:0)
我们开发了一个基于ZeroMQ构建的开源消息总线 - 我们最初这样做是为了取代Qpid。它是无代理的,因此它是一个完全公平的比较,但它提供了与代理解决方案相同的功能。
我们的标题性能数字是两台机器之间的每秒140K msgs,但您可以在此处查看更多详细信息:https://github.com/Abc-Arbitrage/Zebus/wiki/Performance
答案 7 :(得分:-3)
我认为如果你使用芹菜,Rabbitmq的性能会提高