C++ 短时间高并发任务用即时多线程好还是线程池好？

Question

我用C++写了个本地代理服务器，目前使用的是即时创建，即时销毁的方式使用多线程的，每一个HTTP请求创建一个线程，交换数据的时候创建一个线程（即一个线程向客户端取数据向服务端发，一个线程向服务端取数据向客户端发），这些线程处理任务的时间都非常短，处理完后即CloseHandle销毁了。
但有时候并发请求数多了以后，感觉还是有点延迟。这种情况下，是不是采用线程池比较好？

Answer 1

如果你的http请求处理是比较耗时的，那么每个http请求都创建一个线程是不错的选择。
但你目前的情况是处理任务的时间很短，那么大部分时间都是消耗在创建和销毁线程上了。

可以采取线程池处理任务队列的方法来处理。
可以参考下面这个实现。
C++11的简单线程池代码阅读 http://www.cnblogs.com/oloroso/p/5881863.html

Answer 2

线程创建销毁的开销很高，而且线程多了内存占用也很高。四代i7 DDR5下估计每秒钟只能完成千级别的创建和销毁。这个开销与配置和平台有关。

同配置用std::condition_variable和std::mutex实现的线程池，每秒钟能轻松完成百万级别次的同步。

具体耗时可以写一个简单的程序测试一下。建议采用线程池。

Answer 3

为了防止突发请求，需要用线程池，根据业务请求提前分配好线程数目，线程池的操作是异步操作大大的降低线程资源争抢。

Answer 4

线程池。
如果每个业务开销低也可以考虑建立一个异步处理的任务线程按队列处理任务，
主业务线程创建并分配任务。
《C++ 百万并发网络通信引擎架构与实现 （Socket、全栈、跨平台） Version 1.0》
http://edu.csdn.net/course/de...
http://edu.51cto.com/course/1...
这里的百万并发指的的每秒处理超过100万条网络消息。
比如1万连接，每秒发送超过100万个登录消息到服务器，能够正确处理。
采用阿里云服务器进行生产环境演示。
欢迎观看。