我运行java应用程序之前,我的linux可用内存是4942356kb。我的启动参数使用-Xmx2048m和-Xms2048m使最大堆内存和初始堆内存为2G。但是我发现启动应用程序后,我的linux系统可用内存逐步递减,而不是启动后消耗的总2G内存。任何人都可以告诉我原因和机制?
另一个问题,我的jvm启动参数是-XX:+PrintGCDetails -Xss512k -Xmx4096m -Xms4096m -Xloggc:gc_01221859.log
,启动前的空闲内存是 5G ,1小时后,我发现这个应用程序已有14053个线程。显然,耗尽14053 * 512k = 7195136 = 7.2G 堆栈内存,这明显大于系统可用内存和总内存。任何人都可以为我解释一下这个问题?
当thred数为14053时,我使用jcmd <pid> VM.native_memory summary
转储本机内存,输出:
Native Memory Tracking:
Total: reserved=8688195KB, committed=8645103KB
- Java Heap (reserved=2181632KB, committed=2181632KB)
(mmap: reserved=2181632KB, committed=2181632KB)
- Class (reserved=5997KB, committed=5997KB)
(classes #8918)
(malloc=5997KB, #7418)
- Thread (reserved=5815888KB, committed=5815888KB)
(thread #11139)
(stack: reserved=5752332KB, committed=5752332KB)
(malloc=35936KB, #44562)
(arena=27620KB, #22266)
- Code (reserved=51385KB, committed=8293KB)
(malloc=1465KB, #2689)
(mmap: reserved=49920KB, committed=6828KB)
- GC (reserved=85657KB, committed=85657KB)
(malloc=5889KB, #155)
(mmap: reserved=79768KB, committed=79768KB)
- Compiler (reserved=294KB, committed=294KB)
(malloc=196KB, #400)
(arena=98KB, #2)
- Internal (reserved=52609KB, committed=52609KB)
(malloc=52609KB, #283728)
- Symbol (reserved=13406KB, committed=13406KB)
(malloc=10010KB, #98269)
(arena=3396KB, #1)
- Memory Tracking (reserved=301363KB, committed=301363KB)
(malloc=301363KB, #28396)
- Pooled Free Chunks (reserved=179933KB, committed=179933KB)
(malloc=179933KB)
- Unknown (reserved=32KB, committed=32KB)
(mmap: reserved=32KB, committed=32KB)
最高输出:
top - 18:47:02 up 397 days, 26 min, 1 user, load average: 3.68, 3.46, 2.58
Tasks: 164 total, 1 running, 163 sleeping, 0 stopped, 0 zombie
Cpu(s): 2.5%us, 0.6%sy, 0.0%ni, 96.7%id, 0.1%wa, 0.0%hi, 0.0%si, 0.1%st
Mem: 5990984k total, 5144764k used, 846220k free, 11564k buffers
Swap: 0k total, 0k used, 0k free, 132748k cached
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
11513 wuchang 20 0 12.1g 3.7g 15m S 188.8 64.9 41:46.42 java
1264 wuchang 20 0 17116 1240 900 R 1.8 0.0 0:00.02 top
1 root 20 0 19232 364 84 S 0.0 0.0 0:02.57 init
免费输出是:
total used free shared buffers cached
Mem: 5990984 5786744 204240 0 12012 134092
-/+ buffers/cache: 5640640 350344
Swap: 0 0 0
我写了一个非常简单的java代码,其工作只是创建线程:
public class CreateThread {
private static int threadNumber = 0;
public static void main(String[] args) {
while (true) {
new Thread(new Runnable() {
@Override
public void run() {
// TODO Auto-generated method stub
System.out.println("Thread " + threadNumber++);
while(true){
try {
Thread.sleep(20000);
} catch (InterruptedException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
}).start();
}
}
}
将它封装到jar文件中后,在linux中运行它,如下所示:
java -Xss512k -jar CreateThread.jar > /home/wuchang/test
它在报告之前创建了32313个主题:
Exception in thread "main" java.lang.OutOfMemoryError: unable to create new native thread
at java.lang.Thread.start0(Native Method)
at java.lang.Thread.start(Thread.java:714)
at CreateThread.main(CreateThread.java:22)
还有一个问题,为什么错误是OutOfMemory而不是StackOverflow?
我的linux系统线程的一些限制是:
[wuchang@hz10-45-88 ~]$ cat /proc/sys/kernel/threads-max
93335
[wuchang@hz10-45-88 ~]$ ulimit -u
46667
更新1: 每次我使用不同的启动参数运行我的java应用程序,包括三种情况:
case 1: -Xss512k -Xmx4096m -Xms4096m
case 2: -Xss512k -Xmx2048m -Xms2048m
case 3: -Xss256k -Xmx2048m -Xms2048m
当然,由于我的应用程序是一个压力测试,经过一段时间后,该过程将被OS自动杀死。我已经记录下面的最后一个顶部输出:
case 1:
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
18136 wuchang 20 0 15.4g 4.3g 6456 S 99.3 75.0 36:16.22 java
case 2:
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
9689 wuchang 20 0 15.0g 4.2g 14m S 98.6 73.0 55:36.62 java
case 3:
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
8237 wuchang 20 0 10.1g 4.2g 9284 S 100.6 74.0 60:43.95 java
每次运行启动前,系统可用内存大约为5G。 从上面的输出,每次VIRT变化很大,但RES保持大致相同。所以,我的另外一个问题是:
在我的进程被操作系统杀死之前,MAX VIRT依赖于什么?
如何根据1)OS可用内存估算最大线程数 在启动之前和2)JVM启动参数?
更新2:
我已经运行了@Ivan提供的代码:
public class CreateThread {
private static int threadNumber = 0;
public static int doRecursiveCall(int i) throws StackOverflowError {
return doRecursiveCall(++i);
}
public static void warmupNativeStack() {
int sideEffect;
try {
sideEffect = doRecursiveCall(0);
} catch (StackOverflowError ignored) {
return;
}
System.out.println("Never happend " + sideEffect);
}
public static void main(String[] args) {
while (true) {
new Thread(new Runnable() {
@Override
public void run() {
warmupNativeStack();
System.out.println("Thread " + threadNumber++);
while (true) {
try {
Thread.sleep(20000);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
}
}
}).start();
}
}
}
结果是:
java -Xss512k -Xmx2048m -Xms2048m -jar CreateThread.jar
totally 8600 threads are created.before exit,the max VIRT is 8.7G and max RSS is 4.5G
java -Xss256k -Xmx2048m -Xms2048m -jar CreateThread.jar
totally 16780 threads are created.before exit,the max VIRT is 8.7G and max RSS is 4.6G
实验表明,在这种情况下,最大VIRT和RSS与jvm启动参数无关,它们保持不变。因此,根据 UPDATE 1 和的实验结果更新2 ,我想,我的应用程序被操作系统杀死的原因可能是 RSS内存已达到限制,而不是线程数或总VIRT ,对吧?
答案 0 :(得分:2)
默认情况下,JVM在应用程序执行期间以递增方式触摸页面。要更改此行为,请使用以下选项-XX:+AlwaysPreTouch
。
在这种情况下,JVM在JVM初始化期间预先接触堆(堆的每个页面都是需求归零的)。
也不要忘记JVM native memory
很可能你的记忆被交换了。您可以使用the following instructions检查交换使用情况。
在这种情况下,您正在处理overcommitment。内存过量使用是一种操作系统功能,允许使用比物理机实际拥有的内存空间更多的内存空间。本机堆栈非常懒,可以避免触及支持的物理内存。因此,您有12.1g虚拟内存和3.7g RSS。有关更详细的分析,您可以使用pmap -x <java pid>
。
我写了一个非常简单的java代码,其工作只是创建线程
这就是为什么没有使用为线程分配的内存的原因。只需在线程中做一些有用的事情。例如:
public class CreateThread {
private static int threadNumber = 0;
public static int doRecursiveCall(int i) throws StackOverflowError {
return doRecursiveCall(++i);
}
public static void warmupNativeStack() {
int sideEffect;
try {
sideEffect = doRecursiveCall(0);
} catch (StackOverflowError ignored) {
return;
}
System.out.println("Never happend " + sideEffect);
}
public static void main(String[] args) {
while (true) {
new Thread(new Runnable() {
@Override
public void run() {
warmupNativeStack();
System.out.println("Thread " + threadNumber++);
while (true) {
try {
Thread.sleep(20000);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
}
}
}).start();
}
}
}
为什么错误是OutOfMemory而不是StackOverflow?
实际上,你很幸运,因为在现实生活中,一切都以OOM killer结尾。在您的情况下,通过操作系统请求新的Java线程。操作系统尝试创建一个新的本机线程,该线程需要为线程分配内存,但由于缺少物理内存而导致分配失败。在现实生活中,您的Java应用程序将被Linux内核(OOM杀手)杀死。 堆栈溢出用于其他目的(请参阅another answer)
在我的进程被OS杀死之前,MAX VIRT依赖什么?
请参阅Virtual Memory size on Linux
如何根据启动前的OS可用内存和JVM启动参数来估计最大线程?
这取决于许多因素,JVM参数不起任何作用。例如,您必须知道应用程序中调用堆栈的最大深度 - 使用您的和我的示例检查线程计数。