我正在实现一种消息传递算法。消息通过图表的节点传播,阻塞,直到他们收到足够的信息(来自其他邻居)发送消息。
如果我将每条消息放在自己的线程中并使用boost :: condition来暂停线程直到所有必需的信息都可用,那么该算法很容易编写。我创建了数千个线程,但大多数线程在任何时候都是活动的。这看起来效果很好。
我的问题是,当单元测试我发现如果我创建超过大约32705个线程,我得到
未知位置(0):致命错误 “Tree_test”:std :: exception: 抛出boost :: thread_resource_error
我不知道是什么原因造成的,或者如何修复它。
似乎有很多可用的内存(每个线程只有两个指针 - 消息在它们之间传递的对象)。
从这个问题:Maximum number of threads per process in Linux?我认为以下信息是相关的(虽然我真的不知道它有什么意思......)
~> cat /proc/sys/kernel/threads-max
1000000
(我从60120增加了这个 - 我需要重启吗?)
~>ulimit -a
core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 20
file size (blocks, -f) unlimited
pending signals (-i) 16382
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) unlimited
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited
我试着摆弄待处理的信号(我的极限非常接近2 *那个数字)
并且堆栈大小为ulimit -S -i 8191
- (我无法增加它)但这些更改似乎根本没有效果)
如果有帮助,我会使用64位Ubuntu-10-10 ......
答案 0 :(得分:6)
我认为系统上有32K线程,你应该看看除了如何拥有更多线程之外的潜在解决方案。例如,一个线程池(Boost为此提供了一些东西)。
无论如何,在你的系统上,PID是不是限制在32768或某些这样的值?你迟早会跑出去,不妨设计系统以允许处理比最大线程数更多的项目,我想。
也就是说,查看/ proc / sys / kernel / pid_max以查看最大PID - 并尝试增加它。这可能会使你超过32K(但也可能导致意外的行为,程序不是为非常大的PID设计的,所以要小心)。
然后您可能受到堆栈空间的限制(而不是虚拟内存空间)。如果您愿意,可以尝试使用较小的堆栈创建线程。
答案 1 :(得分:0)
好的,回答这个问题:你需要增加
/proc/sys/vm/max_map_count
如上所述:
https://listman.redhat.com/archives/phil-list/2003-August/msg00025.html
在这里:
http://www.kegel.com/c10k.html#limits.threads
但是:在以后的问题中寻找更好的方法:
Non-threaded alternative to waiting on a condition. (Edit: Proactor pattern with boost.asio?)
答案 2 :(得分:0)
这实际上取决于你的堆栈有多大,但如果你创建了很多线程,你将会耗尽地址空间(32位)或虚拟内存(64位)。
在Linux pthreads中,上次检查时默认堆栈大小为10Mb;这意味着32k线程使用320G的地址空间(注意它可能会被懒惰地初始化,所以它不会使用那么多的虚拟内存);这可能太多了。
即使您使堆栈非常小并且不会以这种方式耗尽内存,32k线程将使用大量虚拟内存用于堆栈。考虑使用不同的方法。
ulimit只影响初始线程的堆栈大小(在Linux下通常是动态的);其他线程的堆栈大小是固定的,并由pthread库在线程创建时设置。