一个简单的linux线程池

线程池：简单地说，线程池 就是预先创建好一批线程，方便、快速地处理收到的业务。比起传统的到来一个任务，即时创建一个线程来处理，节省了线程的创建和回收的开销，响应更快，效率更高。



在linux中，使用的是posix线程库，首先介绍几个常用的函数：

1 线程的创建和取消函数

pthread_create

创建线程

pthread_join

合并线程

pthread_cancel

取消线程

2 线程同步函数

pthread_mutex_lock

pthread_mutex_unlock

pthread_cond_signal

pthread_cond_wait



关于函数的详细说明，参考man手册



线程池的实现：

线程池的实现主要分为三部分，线程的创建、添加任务到线程池中、工作线程从任务队列中取出任务进行处理。

主要有两个类来实现，CTask,CThreadPool

/**
执行任务的类，设置任务数据并执行
**/
C代码

   1. class CTask 
   2. { 
   3. protected: 
   4.  string m_strTaskName;  //任务的名称 
   5.  void* m_ptrData;       //要执行的任务的具体数据 
   6. public: 
   7.  CTask(){} 
   8.  CTask(string taskName) 
   9.  { 
  10.   this->m_strTaskName = taskName; 
  11.   m_ptrData = NULL; 
  12.  } 
  13.  virtual int Run()= 0; 
  14.  void SetData(void* data);    //设置任务数据 
  15. }; 

class CTask
{
protected:
string m_strTaskName;  //任务的名称
void* m_ptrData;       //要执行的任务的具体数据
public:
CTask(){}
CTask(string taskName)
{
  this->m_strTaskName = taskName;
  m_ptrData = NULL;
}
virtual int Run()= 0;
void SetData(void* data);    //设置任务数据
};



任务类是个虚类，所有的任务要从CTask类中继承 ，实现run接口，run接口中需要实现的就是具体解析任务的逻辑。m_ptrData是指向任务数据的指针，可以是简单数据类型，也可以是自定义的复杂数据类型。



线程池类

/**
线程池
**/
Java代码

   1. class CThreadPool 
   2. { 
   3. private: 
   4.  vector<CTask*> m_vecTaskList;         //任务列表 
   5.  int m_iThreadNum;                            //线程池中启动的线程数            
   6.  static vector<pthread_t> m_vecIdleThread;   //当前空闲的线程集合 
   7.  static vector<pthread_t> m_vecBusyThread;   //当前正在执行的线程集合 
   8.  static pthread_mutex_t m_pthreadMutex;    //线程同步锁 
   9.  static pthread_cond_t m_pthreadCond;    //线程同步的条件变量 
  10. protected: 
  11.  static void* ThreadFunc(void * threadData); //新线程的线程函数 
  12.  static int MoveToIdle(pthread_t tid);   //线程执行结束后，把自己放入到空闲线程中 
  13.  static int MoveToBusy(pthread_t tid);   //移入到忙碌线程中去 
  14.  int Create();          //创建所有的线程 
  15. public: 
  16.  CThreadPool(int threadNum); 
  17.  int AddTask(CTask *task);      //把任务添加到线程池中 
  18.  int StopAll(); 
  19. }; 

class CThreadPool
{
private:
vector<CTask*> m_vecTaskList;         //任务列表
int m_iThreadNum;                            //线程池中启动的线程数          
static vector<pthread_t> m_vecIdleThread;   //当前空闲的线程集合
static vector<pthread_t> m_vecBusyThread;   //当前正在执行的线程集合
static pthread_mutex_t m_pthreadMutex;    //线程同步锁
static pthread_cond_t m_pthreadCond;    //线程同步的条件变量
protected:
static void* ThreadFunc(void * threadData); //新线程的线程函数
static int MoveToIdle(pthread_t tid);   //线程执行结束后，把自己放入到空闲线程中
static int MoveToBusy(pthread_t tid);   //移入到忙碌线程中去
int Create();          //创建所有的线程
public:
CThreadPool(int threadNum);
int AddTask(CTask *task);      //把任务添加到线程池中
int StopAll();
};



当线程池对象创建后，启动一批线程，并把所有的线程放入空闲列表中，当有任务到达时，某一个线程取出任务并进行处理。

线程之间的同步用线程锁和条件变量。

这个类的对外接口有两个：

AddTask函数把任务添加到线程池的任务列表中，并通知线程进行处理。当任务到到时，把任务放入m_vecTaskList任务列表中，并用pthread_cond_signal唤醒一个线程进行处理。

StopAll函数停止所有的线程


Cpp代码

   1. ************************************************ 
   2.  
   3. 代码: 
   4.  
   5. ××××××××××××××××××××CThread.h 
   6.  
   7.   
   8.  
   9. #ifndef __CTHREAD 
  10. #define __CTHREAD 
  11. #include <vector> 
  12. #include <string> 
  13. #include <pthread.h> 
  14.  
  15. using namespace std; 
  16.  
  17. /**
  18. 执行任务的类，设置任务数据并执行
  19. **/ 
  20. class CTask 
  21. { 
  22. protected: 
  23.  string m_strTaskName;  //任务的名称 
  24.  void* m_ptrData;       //要执行的任务的具体数据 
  25. public: 
  26.  CTask(){} 
  27.  CTask(string taskName) 
  28.  { 
  29.   this->m_strTaskName = taskName; 
  30.   m_ptrData = NULL; 
  31.  } 
  32.  virtual int Run()= 0; 
  33.  void SetData(void* data);    //设置任务数据 
  34. }; 
  35.  
  36. /**
  37. 线程池
  38. **/ 
  39. class CThreadPool 
  40. { 
  41. private: 
  42.  vector<CTask*> m_vecTaskList;         //任务列表 
  43.  int m_iThreadNum;                            //线程池中启动的线程数            
  44.  static vector<pthread_t> m_vecIdleThread;   //当前空闲的线程集合 
  45.  static vector<pthread_t> m_vecBusyThread;   //当前正在执行的线程集合 
  46.  static pthread_mutex_t m_pthreadMutex;    //线程同步锁 
  47.  static pthread_cond_t m_pthreadCond;    //线程同步的条件变量 
  48. protected: 
  49.  static void* ThreadFunc(void * threadData); //新线程的线程函数 
  50.  static int MoveToIdle(pthread_t tid);   //线程执行结束后，把自己放入到空闲线程中 
  51.  static int MoveToBusy(pthread_t tid);   //移入到忙碌线程中去 
  52.  int Create();          //创建所有的线程 
  53. public: 
  54.  CThreadPool(int threadNum); 
  55.  int AddTask(CTask *task);      //把任务添加到线程池中 
  56.  int StopAll(); 
  57. }; 
  58.  
  59. #endif 
  60.  
  61.   
  62.  
  63.   
  64.  
  65.   
  66.  
  67. 类的实现为： 
  68.  
  69. ××××××××××××××××××××CThread.cpp 
  70.  
  71.   
  72.  
  73. #include "CThread.h" 
  74. #include <string> 
  75. #include <iostream> 
  76.  
  77. using namespace std; 
  78.  
  79. void CTask::SetData(void * data) 
  80. { 
  81.  m_ptrData = data; 
  82. } 
  83.  
  84. vector<pthread_t> CThreadPool::m_vecBusyThread; 
  85. vector<pthread_t> CThreadPool::m_vecIdleThread; 
  86. pthread_mutex_t CThreadPool::m_pthreadMutex = PTHREAD_MUTEX_INITIALIZER; 
  87. pthread_cond_t CThreadPool::m_pthreadCond = PTHREAD_COND_INITIALIZER; 
  88.  
  89. CThreadPool::CThreadPool(int threadNum) 
  90. { 
  91.  this->m_iThreadNum = threadNum; 
  92.  Create(); 
  93. } 
  94. int CThreadPool::MoveToIdle(pthread_t tid) 
  95. { 
  96.  vector<pthread_t>::iterator busyIter = m_vecBusyThread.begin(); 
  97.  while(busyIter != m_vecBusyThread.end()) 
  98.  { 
  99.   if(tid == *busyIter) 
100.   { 
101.    break; 
102.   } 
103.   busyIter++; 
104.  } 
105.  m_vecBusyThread.erase(busyIter); 
106.  m_vecIdleThread.push_back(tid); 
107.  return 0; 
108. } 
109.  
110. int CThreadPool::MoveToBusy(pthread_t tid) 
111. { 
112.  vector<pthread_t>::iterator idleIter = m_vecIdleThread.begin(); 
113.  while(idleIter != m_vecIdleThread.end()) 
114.  { 
115.   if(tid == *idleIter) 
116.   { 
117.    break; 
118.   } 
119.   idleIter++; 
120.  } 
121.  m_vecIdleThread.erase(idleIter); 
122.  m_vecBusyThread.push_back(tid); 
123.  return 0; 
124. } 
125. void* CThreadPool::ThreadFunc(void * threadData) 
126. { 
127.  pthread_t tid = pthread_self(); 
128.  while(1) 
129.  { 
130.   pthread_mutex_lock(&m_pthreadMutex); 
131.   pthread_cond_wait(&m_pthreadCond,&m_pthreadMutex); 
132.   cout << "tid:" << tid << " run" << endl; 
133.   //get task 
134.   vector<CTask*>* taskList = (vector<CTask*>*)threadData; 
135.   vector<CTask*>::iterator iter = taskList->begin(); 
136.   while(iter != taskList->end()) 
137.   { 
138.     
139.    MoveToBusy(tid); 
140.    break; 
141.   } 
142.   CTask* task = *iter; 
143.   taskList->erase(iter); 
144.   pthread_mutex_unlock(&m_pthreadMutex); 
145.   cout << "idel thread number:" << CThreadPool::m_vecIdleThread.size() << endl; 
146.   cout << "busy thread number:" << CThreadPool::m_vecBusyThread.size() << endl; 
147.   //cout << "task to be run:" << taskList->size() << endl; 
148.   task->Run(); 
149.    
150.   //cout << "CThread::thread work" << endl; 
151.   cout << "tid:" << tid << " idle" << endl; 
152.    
153.  } 
154.  return (void*)0; 
155. } 
156.  
157. int CThreadPool::AddTask(CTask *task) 
158. { 
159.  this->m_vecTaskList.push_back(task); 
160.  pthread_cond_signal(&m_pthreadCond); 
161.  return 0; 
162. } 
163. int CThreadPool::Create() 
164. { 
165.  for(int i = 0; i < m_iThreadNum;i++) 
166.  { 
167.   pthread_t tid = 0; 
168.   pthread_create(&tid,NULL,ThreadFunc,&m_vecTaskList); 
169.   m_vecIdleThread.push_back(tid); 
170.  } 
171.  return 0; 
172. } 
173.  
174. int CThreadPool::StopAll() 
175. { 
176.  vector<pthread_t>::iterator iter = m_vecIdleThread.begin(); 
177.  while(iter != m_vecIdleThread.end()) 
178.  { 
179.   pthread_cancel(*iter); 
180.   pthread_join(*iter,NULL); 
181.   iter++; 
182.  } 
183.  
184.  iter = m_vecBusyThread.begin(); 
185.  while(iter != m_vecBusyThread.end()) 
186.  { 
187.   pthread_cancel(*iter); 
188.   pthread_join(*iter,NULL); 
189.   iter++; 
190.  } 
191.   
192.  return 0; 
193. } 
194.  
195. 简单示例： 
196.  
197. ××××××××test.cpp 
198.  
199. #include "CThread.h" 
200. #include <iostream> 
201.  
202. using namespace std; 
203.  
204. class CWorkTask: public CTask 
205. { 
206. public: 
207.  CWorkTask() 
208.  {} 
209.  int Run() 
210.  { 
211.   cout << (char*)this->m_ptrData << endl; 
212.   sleep(10); 
213.   return 0; 
214.  } 
215. }; 
216. int main() 
217. { 
218.  CWorkTask taskObj; 
219.  char szTmp[] = "this is the first thread running,haha success"; 
220.  taskObj.SetData((void*)szTmp); 
221.  CThreadPool threadPool(10); 
222.  for(int i = 0;i < 11;i++) 
223.  { 
224.   threadPool.AddTask(&taskObj); 
225.  } 
226.  while(1) 
227.  { 
228.   sleep(120); 
229.  } 
230.  return 0; 
231. } 

************************************************

代码:

××××××××××××××××××××CThread.h



#ifndef __CTHREAD
#define __CTHREAD
#include <vector>
#include <string>
#include <pthread.h>

using namespace std;

/**
执行任务的类，设置任务数据并执行
**/
class CTask
{
protected:
string m_strTaskName;  //任务的名称
void* m_ptrData;       //要执行的任务的具体数据
public:
CTask(){}
CTask(string taskName)
{
  this->m_strTaskName = taskName;
  m_ptrData = NULL;
}
virtual int Run()= 0;
void SetData(void* data);    //设置任务数据
};

/**
线程池
**/
class CThreadPool
{
private:
vector<CTask*> m_vecTaskList;         //任务列表
int m_iThreadNum;                            //线程池中启动的线程数          
static vector<pthread_t> m_vecIdleThread;   //当前空闲的线程集合
static vector<pthread_t> m_vecBusyThread;   //当前正在执行的线程集合
static pthread_mutex_t m_pthreadMutex;    //线程同步锁
static pthread_cond_t m_pthreadCond;    //线程同步的条件变量
protected:
static void* ThreadFunc(void * threadData); //新线程的线程函数
static int MoveToIdle(pthread_t tid);   //线程执行结束后，把自己放入到空闲线程中
static int MoveToBusy(pthread_t tid);   //移入到忙碌线程中去
int Create();          //创建所有的线程
public:
CThreadPool(int threadNum);
int AddTask(CTask *task);      //把任务添加到线程池中
int StopAll();
};

#endif







类的实现为：

××××××××××××××××××××CThread.cpp



#include "CThread.h"
#include <string>
#include <iostream>

using namespace std;

void CTask::SetData(void * data)
{
m_ptrData = data;
}

vector<pthread_t> CThreadPool::m_vecBusyThread;
vector<pthread_t> CThreadPool::m_vecIdleThread;
pthread_mutex_t CThreadPool::m_pthreadMutex = PTHREAD_MUTEX_INITIALIZER;
pthread_cond_t CThreadPool::m_pthreadCond = PTHREAD_COND_INITIALIZER;

CThreadPool::CThreadPool(int threadNum)
{
this->m_iThreadNum = threadNum;
Create();
}
int CThreadPool::MoveToIdle(pthread_t tid)
{
vector<pthread_t>::iterator busyIter = m_vecBusyThread.begin();
while(busyIter != m_vecBusyThread.end())
{
  if(tid == *busyIter)
  {
   break;
  }
  busyIter++;
}
m_vecBusyThread.erase(busyIter);
m_vecIdleThread.push_back(tid);
return 0;
}

int CThreadPool::MoveToBusy(pthread_t tid)
{
vector<pthread_t>::iterator idleIter = m_vecIdleThread.begin();
while(idleIter != m_vecIdleThread.end())
{
  if(tid == *idleIter)
  {
   break;
  }
  idleIter++;
}
m_vecIdleThread.erase(idleIter);
m_vecBusyThread.push_back(tid);
return 0;
}
void* CThreadPool::ThreadFunc(void * threadData)
{
pthread_t tid = pthread_self();
while(1)
{
  pthread_mutex_lock(&m_pthreadMutex);
  pthread_cond_wait(&m_pthreadCond,&m_pthreadMutex);
  cout << "tid:" << tid << " run" << endl;
  //get task
  vector<CTask*>* taskList = (vector<CTask*>*)threadData;
  vector<CTask*>::iterator iter = taskList->begin();
  while(iter != taskList->end())
  {
  
   MoveToBusy(tid);
   break;
  }
  CTask* task = *iter;
  taskList->erase(iter);
  pthread_mutex_unlock(&m_pthreadMutex);
  cout << "idel thread number:" << CThreadPool::m_vecIdleThread.size() << endl;
  cout << "busy thread number:" << CThreadPool::m_vecBusyThread.size() << endl;
  //cout << "task to be run:" << taskList->size() << endl;
  task->Run();
 
  //cout << "CThread::thread work" << endl;
  cout << "tid:" << tid << " idle" << endl;
 
}
return (void*)0;
}

int CThreadPool::AddTask(CTask *task)
{
this->m_vecTaskList.push_back(task);
pthread_cond_signal(&m_pthreadCond);
return 0;
}
int CThreadPool::Create()
{
for(int i = 0; i < m_iThreadNum;i++)
{
  pthread_t tid = 0;
  pthread_create(&tid,NULL,ThreadFunc,&m_vecTaskList);
  m_vecIdleThread.push_back(tid);
}
return 0;
}

int CThreadPool::StopAll()
{
vector<pthread_t>::iterator iter = m_vecIdleThread.begin();
while(iter != m_vecIdleThread.end())
{
  pthread_cancel(*iter);
  pthread_join(*iter,NULL);
  iter++;
}

iter = m_vecBusyThread.begin();
while(iter != m_vecBusyThread.end())
{
  pthread_cancel(*iter);
  pthread_join(*iter,NULL);
  iter++;
}

return 0;
}

简单示例：

××××××××test.cpp

#include "CThread.h"
#include <iostream>

using namespace std;

class CWorkTask: public CTask
{
public:
CWorkTask()
{}
int Run()
{
  cout << (char*)this->m_ptrData << endl;
  sleep(10);
  return 0;
}
};
int main()
{
CWorkTask taskObj;
char szTmp[] = "this is the first thread running,haha success";
taskObj.SetData((void*)szTmp);
CThreadPool threadPool(10);
for(int i = 0;i < 11;i++)
{
  threadPool.AddTask(&taskObj);
}
while(1)
{
  sleep(120);
}
return 0;
}