从Redis Set上并发读取/写入-单服务器多个客户端

时间:2018-09-23 19:54:32

标签: c# redis stackexchange.redis

我们有一些在不同PC上运行的应用程序。必须有一个Redis服务器为所有应用程序保存一个共享键/值的队列。每个应用程序都有2个线程,一个用于填充队列的线程,另一个用于迭代和处理队列的线程。

假设队列包含以下项目:[(1,value1),(2,v2),(3,v3),(4,v4)]。我们想要的是只有一个客户端来窥视具有键3的项目,而具有键4或任何其他键的并发请求窥视项目。

  • 使用Redis实现此目的的最佳方法是什么?
  • 是否可以通过字符串SET达到目标?
  • Redis是否可以为此实现发布/订阅系统?

谢谢。

注意用C#编写的客户端,StackExchange.Redis

2 个答案:

答案 0 :(得分:0)

要使进程互斥,可以使用RedLock.Net。它是Distributed Lock Manager,就像lock语句,适用于无法相互了解的进程。这是一个示例:

public async Task ProcessMessage(Message message) 
{   
    // the thing we are trying to lock, i.e: "3"
    var resource = message.Key; 

    // determines how long will the lock be alive untill it's automatically released
    var expiry = TimeSpan.FromSeconds(30);

    // how long will the thread wait trying to acquire the lock
    var wait = TimeSpan.FromSeconds(10);

    // time span between each request to Redis trying to acquire the lock
    var retry = TimeSpan.FromSeconds(1);

    // blocks the thread until acquired or 'wait' timeout
    using (var redLock = await redlockFactory.CreateLockAsync(resource, expiry, wait, retry))
    {
        // make sure we got the lock
        if (redLock.IsAcquired)
        {
            // we successfully locked the resource, now other processes will have to wait
            ProcessMessageInternal(message.Value);
        }
        else 
        {
            // could't get the lock within the wait time
            // handle collision
        }
    }

    // the lock is automatically released at the end of the using block
    // which means the IDisposable.Dispose method makes a request to Redis to release the lock
}

请注意我如何使用消息的Key作为锁定资源。这意味着,直到锁被释放或过期,任何其他进程都将无法锁定资源。

关于实现发布/订阅系统,我强烈建议您使用Azure Storage Queue,创建一个Queue Trigger并将您的程序订阅到它。

所有这些听起来很复杂,但是却很容易实现:您可以将应用程序的线程分为两个进程:

消息阅读器:,只要有这样的消息到达,他就将消息排入队列:

// Retrieve storage account from connection string.
CloudStorageAccount storageAccount = CloudStorageAccount.Parse(
    CloudConfigurationManager.GetSetting("StorageConnectionString"));

// Create the queue client.
CloudQueueClient queueClient = storageAccount.CreateCloudQueueClient();

// Retrieve a reference to a queue.
CloudQueue queue = queueClient.GetQueueReference("myqueue");

// Create the queue if it doesn't already exist.
queue.CreateIfNotExists();

var message = // get message

var json = SerializeMessage(message);

// Create a message and add it to the queue.
CloudQueueMessage message = new CloudQueueMessage(json);
queue.AddMessage(message);

消息处理器:,他们将通过使用QueueTrigger来订阅队列,Visual Studio有一个名为Azure Functions的项目模板,您只需需要传递存储连接字符串以及队列名称,它将为您处理并发性。该过程将水平升级(这意味着它将有很多实例),因此它需要与其同级互斥,并将通过使用RedLock.Net来实现。天蓝色函数将像这样锁定:

public class Functions 
{
    public static void ProcessQueueMessage([QueueTrigger(QueueName)] string serializedMessage)
    {
        var message = DeserializeMessage(serializedMessage);

        MessageProcesor.ProcessMessage(message);
    }
}

如果您需要高速处理较大的消息,也可以使用Service Bus Queue代替Azure Storage Queue,这是两者之间的比较:https://docs.microsoft.com/en-us/azure/service-bus-messaging/service-bus-azure-and-service-bus-queues-compared-contrasted

答案 1 :(得分:0)

您可以使用LIST保存这些项目,并将LIST作为队列。使用push/pop commands填充队列并从队列中获取项目。

LIST保证并发读/写,并且仅由一个客户端获取项目。