当超过32705个线程时,boost :: thread_resource_error

时间:2011-04-22 02:30:17

标签: c++ linux multithreading boost-thread

我正在实现一种消息传递算法。消息通过图表的节点传播,阻塞,直到他们收到足够的信息(来自其他邻居)发送消息。

如果我将每条消息放在自己的线程中并使用boost :: condition来暂停线程直到所有必需的信息都可用,那么该算法很容易编写。我创建了数千个线程,但大多数线程在任何时候都是活动的。这看起来效果很好。

我的问题是,当单元测试我发现如果我创建超过大约32705个线程,我得到

  

未知位置(0):致命错误   “Tree_test”:std :: exception:   抛出boost :: thread_resource_error

我不知道是什么原因造成的,或者如何修复它。

似乎有很多可用的内存(每个线程只有两个指针 - 消息在它们之间传递的对象)。

从这个问题:Maximum number of threads per process in Linux?我认为以下信息是相关的(虽然我真的不知道它有什么意思......)

~> cat /proc/sys/kernel/threads-max
1000000

(我从60120增加了这个 - 我需要重启吗?)

 ~>ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 20
file size               (blocks, -f) unlimited
pending signals                 (-i) 16382
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) unlimited
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

我试着摆弄待处理的信号(我的极限非常接近2 *那个数字) 并且堆栈大小为ulimit -S -i 8191 - (我无法增加它)但这些更改似乎根本没有效果)

如果有帮助,我会使用64位Ubuntu-10-10 ......

3 个答案:

答案 0 :(得分:6)

我认为系统上有32K线程,你应该看看除了如何拥有更多线程之外的潜在解决方案。例如,一个线程池(Boost为此提供了一些东西)。

无论如何,在你的系统上,PID是不是限制在32768或某些这样的值?你迟早会跑出去,不妨设计系统以允许处理比最大线程数更多的项目,我想。

也就是说,查看/ proc / sys / kernel / pid_max以查看最大PID - 并尝试增加它。这可能会使你超过32K(但也可能导致意外的行为,程序不是为非常大的PID设计的,所以要小心)。

然后您可能受到堆栈空间的限制(而不是虚拟内存空间)。如果您愿意,可以尝试使用较小的堆栈创建线程。

答案 1 :(得分:0)

好的,回答这个问题:你需要增加

/proc/sys/vm/max_map_count

如上所述:

https://listman.redhat.com/archives/phil-list/2003-August/msg00025.html

在这里:

http://www.kegel.com/c10k.html#limits.threads

但是:在以后的问题中寻找更好的方法:

Non-threaded alternative to waiting on a condition. (Edit: Proactor pattern with boost.asio?)

答案 2 :(得分:0)

这实际上取决于你的堆栈有多大,但如果你创建了很多线程,你将会耗尽地址空间(32位)或虚拟内存(64位)。

在Linux pthreads中,上次检查时默认堆栈大小为10Mb;这意味着32k线程使用320G的地址空间(注意它可能会被懒惰地初始化,所以它不会使用那么多的虚拟内存);这可能太多了。

即使您使堆栈非常小并且不会以这种方式耗尽内存,32k线程将使用大量虚拟内存用于堆栈。考虑使用不同的方法。

ulimit只影响初始线程的堆栈大小(在Linux下通常是动态的);其他线程的堆栈大小是固定的,并由pthread库在线程创建时设置。