REQ / REP&用于双向异步工作程序处理的DEALER / ROUTER

时间:2017-06-14 03:57:44

标签: zeromq

我正在学习ZeroMQ,只是通过了教程和一些例子。我使用Node.js作为我的主要环境(Python最终用来替换我的工作人员)。

尝试理清我如何创建一个完全异步的消息传递系统,允许我的API将任务(通过 REQ 套接字)推送到路由器,让经销商通过向工作人员发送消息,处理消息并将其结果发送回我的客户端(这是一条Express路线)。

我相信这种模式可以像这样工作(尚未经过测试或正确实现的代码,所以请将其作为概念大纲):

router.js

const zmq = require('zmq');;
const frontend = zmq.socket('router');
const backend = zmq.socket('dealer');

frontend.on('message', function() {
  var args = Array.apply(null, arguments);
  backend.send(args);
});
backend.on('message', function() {
  var args = Array.apply(null, arguments);
  frontend.send(args);
});

frontend.bindSync('tcp://*:5559');
backend.bindSync('tcp://*:5560');

client.js

var zmq = require('zmq'),
var express = require('express');
var app = express();

app.post('send', function(req, res) {
  var client = zmq.socket('req');
  // listen for responses from the server 
  client.on('message', function(data) {  
     console.log(data);
     client.close();
  }); 
  // connect to the server port 
  client.connect('tcp://0.0.0.0:5454');  
  client.send('Request from ' + process.id);
});
app.listen('80');

worker.js

var zmq = require('zmq');
var server = zmq.socket('rep');

server.on('message', function(d){  
  server.send('Response from ' + process.id); 
}); 
// bind to port 5454 
server.bind('tcp://0.0.0.0:5454', function(err){  
  if (err){ 
    console.error("something bad happened"); 
    console.error( err.msg ); 
    console.error( err.stack ); 
    process.exit(0); 
  } 
});

我不完全理解的是 ROUTER/DEALER 是否会处理将响应工作者发送到正确的客户端。同样在这种情况下,经销商处理公平排队,因为我希望我的工作在工人中均匀分配。

我的客户端可以分布在许多不同的盒子(负载均衡器API服务器)中,我的路由器将位于自己的服务器上,工作人员也将分布在多个盒子中。

3 个答案:

答案 0 :(得分:1)

在任何生产级应用中忘记REQ/REP,都会陷入相互僵局

REQ/REP正式可扩展通信模式中,您可能会在许多其他帖子中找到关于高风险共同FSM-FSM死锁的帖子。

请确保XREQ/XREP == DEALER/ROUTER (自2011年以来)

源代码会删除所有隐藏的魔法, XREQ == DEALER XREP == ROUTER

+++b/include/zmq.h
...
-#define ZMQ_XREQ 5
-#define ZMQ_XREP 6
+#define ZMQ_DEALER 5
+#define ZMQ_ROUTER 6
...
+#define ZMQ_XREQ ZMQ_DEALER        /*  Old alias, remove in 3.x     */
+#define ZMQ_XREP ZMQ_ROUTER        /*  Old alias, remove in 3.x     */

答案 1 :(得分:1)

对于将来阅读本文的人,在我的进一步研究中,我偶然发现了Majordomo协议/模式。这正是我试图实施的内容。有关实施,利弊的文档可在此处阅读:https://rfc.zeromq.org/spec:18/MDP/。这是经纪人的实施:https://github.com/zeromq/majordomo

答案 2 :(得分:0)

当我使用 DEALER/ROUTER XREQ XREP >

broker.js

var zmq = require('zmq');
var frontPort = 'tcp://127.0.0.1:5559';
var backPort = 'tcp://127.0.0.1:5560';

var frontSocket = zmq.socket('xrep');
var backSocket = zmq.socket('xreq');

frontSocket.identity = 'xrep_' + process.pid;
backSocket.identity = 'xreq_' + process.pid;

frontSocket.bind(frontPort, function (err) {
    console.log('bound', frontPort);
});

frontSocket.on('message', function() {
  //pass to back
  console.log('router: sending to server', arguments[0].toString(), arguments[2].toString());
  backSocket.send(Array.prototype.slice.call(arguments));
});

backSocket.bind(backPort, function (err) {
  console.log('bound', backPort);
});

backSocket.on('message', function() {
  //pass to front
  console.log('dealer: sending to client', arguments[0].toString(), arguments[2].toString());
  frontSocket.send(Array.prototype.slice.call(arguments));
});

console.log('Broker started...');

worker.js

var zmq = require('zmq');
var socket = zmq.socket('rep');

socket.identity = 'worker_' + process.pid;

socket.on('message', function(data) {
    console.log(socket.identity + ': received ' + data.toString());
    socket.send(data * 2);
});
socket.connect('tcp://127.0.0.1:5560', function(err) {
  if (err) throw err;
  console.log('server connected!');
});

console.log('Worker started...');

client.js

var zmq = require('zmq');
var socket = zmq.socket('req');

socket.identity = 'client_' + process.pid;

socket.on('message', function(data) {
  console.log(socket.identity + ': answer data ' + data);
});
socket.connect('tcp://127.0.0.1:5559');

setInterval(function() {
  var value = Math.floor(Math.random()*100);
  console.log(socket.identity + ': asking ' + value);
  socket.send(value);
}, 100);

console.log('Client started...');

我仍然不确定在每个API入站请求上是否可以安全地打开连接。