Heroku上的节点JS消息队列

时间:2016-03-11 17:17:32

标签: node.js heroku rabbitmq backgroundworker message-queue

我需要将在Heroku上运行的Node JS服务器移动到消息队列架构。目前,服务器接收HTTP请求,进行一些处理并进行响应。问题是处理需要一些时间,特别是当有大量请求时。这个漫长的处理时间会导致服务器超时,过载和崩溃!我的阅读告诉我需要后台工作人员来处理。

我对消息队列和后台工作者没有经验,我正在寻找一个非常简单的示例来开始。任何人都可以建议一个简单,易懂的模块或示例来开始?

我发现了一些examples,但它们很复杂,我迷路了!我想要一个我可以构建的准系统示例。

2 个答案:

答案 0 :(得分:9)

让我们看看如何使用RabbitMQ做到这一点。 首先,您需要一个RabbitMQ服务器才能在您的开发环境中使用。 如果你还没有它(检查" sudo service rabbitmq-server status")你可以安装(在ubuntu或类似网站上),如下所示:

sudo su -c "echo 'deb http://www.rabbitmq.com/debian/ testing main' >> /etc/apt/sources.list"
wget http://www.rabbitmq.com/rabbitmq-signing-key-public.asc
sudo apt-key add rabbitmq-signing-key-public.asc
sudo apt-get update
sudo apt-get install rabbitmq-server
rm  rabbitmq-signing-key-public.asc

然后,使用以下命令运行服务器:

sudo service rabbitmq-server start

您还需要为Heroku部署配置RabbitMQ服务。让我们在这个例子中使用CloudAMPQ。您可以通过以下方式将其免费计划添加到您的Heroku应用程序中:

heroku addons:create cloudamqp:lemur 

这将在您的Heroku应用程序中创建一个新的CLOUDAMQP_URL环境变量。

接下来,您需要为您的node.js应用程序提供合适的RabbitMQ客户端。 其中有一些,但在这个例子中,让我们使用ampqlib:

npm install ampqlib --save

这应该在package.json依赖项中添加类似以下行:

"amqplib": "^0.4.1",

接下来就是添加一个背景" worker" dyno到你的Heroku应用程序。 我假设你的Procfile中目前只有一个Web dyno。 因此,您需要添加另一行来实例化工作程序,例如:

worker: node myworker.js

最后,您需要编写代码,使您的Web dyno能够通过RabbitMQ与您的工作人员dyno进行交互。

为了这个例子,我假设您的Web dyno将是"发布"消息到RabbitMQ消息队列,你的工作人员dyno将消费"消费#34;这些消息。

因此,让我们开始编写用于发布到消息队列的代码。此代码需要在Web dyno中运行:

// Define ampq_url to point to CLOUDAMPQ_URL on Heroku, or local RabbitMQ server in dev environment
var ampq_url = process.env.CLOUDAMQP_URL || "amqp://localhost";
var ampq_open = require('amqplib');
var publisherChnl;

function createPublisherChannel() {

    // Create an AMPQ "connection"
    ampq_open.connect(ampq_url)
        .then(function(conn) {
            // You need to create at least one AMPQ "channel" on your connection   
            var ok = conn.createChannel();
            ok = ok.then(function(ch){
                publisherChnl = ch;
                // Now create a queue for the actual messages to be sent to the worker dyno 
                publisherChnl.assertQueue('my-worker-q');
            })
        })
    }

function publishMsg() {
     // Send the worker a message
     publisherChnl.sendToQueue('my-worker-q', new Buffer('Hello world from Web dyno'));
}

在初始化Web dyno期间,您需要调用createPublisherChannel()。然后,只要您想将消息发送到队列,就调用publishMsg()。

最后,让我们编写用于在worker dyno中消费上述消息的代码。因此,例如,在myworker.js中添加以下内容:

// Just like in Web dyno...
var amqp_url = process.env.CLOUDAMQP_URL || "amqp://localhost";
var open_ampq = require('amqplib').connect(amqp_url);
var consumerChnl;    

// Creates an AMPQ channel for consuming messages on 'my-worker-q'
function createConsumerChannel() {     
    open_ampq
        .then(function(conn) {
            conn.createChannel()
                .then(function(ch) {
                    ch.assertQueue('my-worker-q');
                    consumerChnl = ch;
            });
        });
}  

function startConsuming() {
    consumerChnl.consume('my-worker-q', function(msg){
        if (msg !== null) {
            console.log(msg.content.toString());
            // Tell RabbitMQ server we have consumed the message
            consumerChnl.ack(msg);
        }
    })
} 

createConsumerChnl().then(startConsuming); 

最后,使用" heroku local"进行测试。你应该看到你现在在你的应用程序中运行了2个进程," Web"和"工人"。无论何时在Web dyno中调用publishMsg(),您都应该看到wroker dyno将消息内容吐出到您的控制台。要查看RabbitMQ队列中发生的情况,您可以使用:

sudo rabbitmqctl list_queues

答案 1 :(得分:0)

我在这里找到了一个非常简单的例子(后面有更深层的例子):https://www.rabbitmq.com/tutorials/tutorial-one-javascript.html