使用pthreads进行简单的流水线操作

时间:2016-02-17 12:19:53

标签: c multithreading pthreads mutex

最近我开始研究pthread并试图用pthreads实现软件流水线操作。要做到这一点,我自己写了一个玩具程序,类似的是我的主要项目的一部分。

所以在这个程序中,主线程创建整数类型的输入输出缓冲区,然后创建一个主线程并将这些缓冲区传递给主线程主线程依次创建两个工作线程

传递到主线程输入输出缓冲区的大小 n x k (例如,大小为5x10)。 主线程 n (即5)次上迭代大小 k (即10)的块。 主线程中有一个循环,用于 k (此处为5)次。在 k 的每次迭代中,主线程对大小 n 的输入数据的一部分执行某些操作,并将其放在 common中缓冲工作线程之间共享。然后,主线程向工作线程发出信号,表明数据已放置在公共缓冲区中。

如果公共缓冲区准备就绪,则两个工作线程将等待来自主线程的信号。 公共缓冲区上的操作在工作线程中分为一半。这意味着一个工作线程将在前半部分工作,另一个工作线程将在公共缓冲区的下一半工作。 一旦工作线程主线程获取信号,每个工作线程对其一半数据执行某些操作并复制它到输出缓冲区。然后工作线程通过设置标志值,通知主线程公共缓冲区上完成了它们的操作。为工作线程创建一组标志。 主线程继续检查是否已设置所有标志,这基本上意味着所有工作线程公共缓冲区上完成了操作,因此< strong>主线程可以安全地将下一个数据块放入公共缓冲区,以便工作线程消费。

因此,基本上以流水线方式在工作线程之间进行通信。最后,我在主线程中打印输出缓冲区。但我根本没有输出。我复制粘贴了我的代码,几乎所有步骤都有完整的评论。

#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <sys/types.h>
#include <sys/time.h>
#include <semaphore.h>
#include <unistd.h>
#include <stdbool.h>
#include <string.h>

#define MthNum 1 //Number of Master threads
#define WthNum 2 //Number of Worker threads
#define times 5 // Number of times the iteration (n in the explanation)
#define elNum 10 //Chunk size during each iteration (k in the explanation)

pthread_mutex_t mutex; // mutex variable declaration
pthread_cond_t cond_var; //conditional variarble declaration
bool completion_flag = true; //This global flag indicates the completion of the worker thread. Turned false once all operation ends
                             //marking the completion
int *commonBuff; //common buffer between master and worker threads
int *commFlags; //array of flags that are turned to 1 by each worker threads. So worker thread i turns commFlags[i] to 1
                // the master thread turns commFlags[i] = 0 for i =0 to (WthNum - 1)
int *commFlags_s;
int counter; // This counter used my master thread to count if all the commFlags[i] that shows
             //all the threads finished their work on the common buffer
// static pthread_barrier_t barrier;
// Arguments structure passed to master thread
typedef struct{
    int *input; // input buffer
    int *output;// output buffer
}master_args;

// Arguments structure passed to worker thread
typedef struct{
    int threadId;
    int *outBuff;
}worker_args;

void* worker_func(void *arguments);
void *master_func(void *);

int main(int argc,char*argv[]){

    int *ipData,*opData;
    int i,j;

    // allocation of input buffer and initializing to 0
    ipData = (int *)malloc(times*elNum*sizeof(int));
    memset(ipData,0,times*elNum*sizeof(int));

    // allocation of output buffer and initializing to 0
    opData = (int *)malloc(times*elNum*sizeof(int));
    memset(opData,0,times*elNum*sizeof(int));

    pthread_t thread[MthNum];
    master_args* args[MthNum];


    //creating the single master thread and passing the arguments
    for( i=0;i<MthNum;i++){
        args[i] = (master_args *)malloc(sizeof(master_args));
        args[i]->input= ipData;
        args[i]->output= opData;
        pthread_create(&thread[i],NULL,master_func,(void *)args[i]);
    }

    //joining the master thred
    for(i=0;i<MthNum;i++){
        pthread_join(thread[i],NULL);
    }

    //printing the output buffer values
    for(j =0;j<times;j++ ){
        for(i =0;i<elNum;i++){
            printf("%d\t",opData[i+j*times]);
        }
      printf("\n");
    }

    return 0;
}

//This is the master thread function
void *master_func(void *arguments){

    //copying the arguments pointer to local variables
    master_args* localMasterArgs = (master_args *)arguments;
    int *indataArgs = localMasterArgs->input; //input buffer
    int *outdataArgs = localMasterArgs->output; //output buffer

    //worker thread declaration
    pthread_t Workers[WthNum];
    //worker thread arguments declaration
    worker_args* wArguments[WthNum];
    int i,j;

    pthread_mutex_init(&mutex, NULL);
    pthread_cond_init (&cond_var, NULL);
    counter =0;

    commonBuff = (int *)malloc(elNum*sizeof(int));

    commFlags = (int *)malloc(WthNum*sizeof(int));
    memset(commFlags,0,WthNum*sizeof(int) );
    commFlags_s= (int *)malloc(WthNum*sizeof(int));
    memset(commFlags_s,0,WthNum*sizeof(int) );

    for(i =0;i<WthNum;i++){

        wArguments[i] = (worker_args* )malloc(sizeof(worker_args));
        wArguments[i]->threadId = i;
        wArguments[i]->outBuff = outdataArgs;

        pthread_create(&Workers[i],NULL,worker_func,(void *)wArguments[i]);
    }

    for (i = 0; i < times; i++) {
        for (j = 0; j < elNum; j++)
            indataArgs[i + j * elNum] = i + j;

        while (counter != 0) {
            counter = 0;

            pthread_mutex_lock(&mutex);
            for (j = 0; j < WthNum; j++) {
                counter += commFlags_s[j];
            }
            pthread_mutex_unlock(&mutex);

        }
        pthread_mutex_lock(&mutex);
        memcpy(commonBuff, &indataArgs[i * elNum], sizeof(int));
        pthread_mutex_unlock(&mutex);
        counter = 1;
        while (counter != 0) {
            counter = 0;

            pthread_mutex_lock(&mutex);
            for (j = 0; j < WthNum; j++) {
                counter += commFlags[j];
            }
            pthread_mutex_unlock(&mutex);


        }
        // printf("master broad cast\n");
        pthread_mutex_lock(&mutex);
        pthread_cond_broadcast(&cond_var);
         //releasing the lock
        pthread_mutex_unlock(&mutex);

    }

    pthread_mutex_lock(&mutex);
     completion_flag = false;
    pthread_mutex_unlock(&mutex);

    for (i = 0; i < WthNum; i++) {
        pthread_join(Workers[i], NULL);
    }

    pthread_mutex_destroy(&mutex);
    pthread_cond_destroy(&cond_var);

    return NULL;
}


void* worker_func(void *arguments){

    worker_args* localArgs = (worker_args*)arguments;

    //copying the thread ID and the output buffer
    int tid = localArgs->threadId;
    int *localopBuffer = localArgs->outBuff;
    int i,j;
    bool local_completion_flag=false;

    while(local_completion_flag){

        pthread_mutex_lock(&mutex);
        commFlags[tid] =0;
        commFlags_s[tid] =1;
        pthread_cond_wait(&cond_var,&mutex);
        commFlags_s[tid] =0;
        commFlags[tid] =1;
        if (tid == 0) {
            for (i = 0; i < (elNum / 2); i++) {
                localopBuffer[i] = commonBuff[i] * 5;
            }
        } else { // Thread ID 1 operating on the other half of the common buffer data and placing on the
                 // output buffer
            for (i = 0; i < (elNum / 2); i++) {
                localopBuffer[elNum / 2 + i] = commonBuff[elNum / 2 + i] * 10;
            }
        }
         local_completion_flag=completion_flag;
        pthread_mutex_unlock(&mutex);//releasing the lock

    }

    return NULL;
}

但是我不知道我在实施中做错了什么,因为从逻辑上看它似乎是正确的。但是我的实施肯定有问题。我花了很长时间尝试不同的东西来修复它,但没有任何效果。对于这篇长篇文章感到抱歉,但我无法确定我可能做错的部分,因此我无法简要介绍该帖子。因此,如果任何人都可以查看问题和实现,并可以建议需要做哪些更改来按预期运行它,那么它将非常有用。感谢您的帮助和帮助。

2 个答案:

答案 0 :(得分:0)

此代码中存在多个错误。

  1. 您可以从修复工作线程的创建开始:

    wArguments[i] = (worker_args* )malloc(sizeof(worker_args));
    wArguments[i]->threadId = i;
    wArguments[i]->outBuff = outdataArgs;
    
    pthread_create(&Workers[i],NULL,worker_func, (void *)wArguments);
    
  2. 您正在初始化worker_args结构但错误地 - 将指针传递给数组(void *)wArguments而不是指向刚刚初始化的数组元素的指针。

    pthread_create(&Workers[i],NULL,worker_func, (void *)wArguments[i]);
    //                                                             ^^^
    
    1. 在启动使用它的线程的值之前初始化计数器:

      void *master_func(void *arguments)
      {
      /* (...) */
      pthread_mutex_init(&mutex, NULL);
      pthread_cond_init (&cond_var, NULL);
      counter = WthNum;
      
    2. 启动主线程时,错误地将指针传递给指针:

      pthread_create(&thread[i],NULL,master_func,(void *)&args[i]);
      
    3. 请将此更改为:

      pthread_create(&thread[i],NULL,master_func,(void *) args[i]);
      
      1. 必须在线程之间同步对counter变量的所有访问(与任何其他共享内存一样)。

答案 1 :(得分:0)

我认为你应该像这样使用基于信号量的生产者 - 消费者模型

https://jlmedina123.wordpress.com/2014/04/08/255/