Tomcat內存溢出的原因

Tomcat內存溢出的原因

　　在生產環境中tomcat內存設置不好很容易出現內存溢出。造成內存溢出是不一樣的，當然處理方式也不一樣。

　　這里根據平時遇到的情況和相關資料進行一個總結。常見的一般會有下面三種情況：

　　1.OutOfMemoryError： Java heap space

　　2.OutOfMemoryError： PermGen space

　　3.OutOfMemoryError： unable to create new native thread.

　　Tomcat內存溢出解決方案

　　對于前兩種情況，在應用本身沒有內存泄露的情況下可以用設置tomcat jvm參數來解決。（-Xms -Xmx -XX：PermSize -XX：MaxPermSize）

　　最后一種可能需要調整操作系統和tomcat jvm參數同時調整才能達到目的。

　　第一種：是堆溢出。

　　原因分析：

JVM堆的設置是指java程序運行過程中JVM可以調配使用的內存空間的設置.JVM在啟動的時候會自動設置Heap size的值，其初始空間(即-Xms)是物理內存的1/64，最大空間(-Xmx)是物理內存的1/4。可以利用JVM提供的-Xmn -Xms -Xmx等選項可進行設置。Heap size 的大小是Young Generation 和Tenured Generaion 之和。

在JVM中如果98％的時間是用于GC且可用的Heap size 不足2％的時候將拋出此異常信息。

Heap Size 最大不要超過可用物理內存的80％，一般的要將-Xms和-Xmx選項設置為相同，而-Xmn為1/4的-Xmx值。

　　沒有內存泄露的情況下，調整-Xms -Xmx參數可以解決。

　　-Xms：初始堆大小

　　-Xmx：最大堆大小

　　但堆的大小受下面三方面影響：

　　1.相關操作系統的數據模型（32-bt還是64-bit）限制；（32位系統下，一般限制在1.5G~2G；我在2003 server 系統下（物理內存：4G和6G，jdk：1.6）測試 1612M，64位操作系統對內存無限制。）

　　2.系統的可用虛擬內存限制；

　　3.系統的可用物理內存限制。

　　堆的大小可以使用 java -Xmx***M version 命令來測試。支持的話會出現jdk的版本號，不支持會報錯。

　　-Xms -Xmx一般配置成一樣比較好比如set JAVA_OPTS= -Xms1024m -Xmx1024m

其初始空間(即-Xms)是物理內存的1/64，最大空間(-Xmx)是物理內存的1/4。可以利用JVM提供的-Xmn -Xms -Xmx等選項可

進行設置

實例，以下給出1G內存環境下java jvm 的參數設置參考：

JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true "

JAVA_OPTS="-server -Xms768m -Xmx768m -XX:PermSize=128m -XX:MaxPermSize=256m -XX:

NewSize=192m -XX:MaxNewSize=384m"

CATALINA_OPTS="-server -Xms768m -Xmx768m -XX:PermSize=128m -XX:MaxPermSize=256m

-XX:NewSize=192m -XX:MaxNewSize=384m"

服務器為1G內存：JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true "

服務器為64位、2G內存: JAVA_OPTS='-server -Xms1024m -Xmx1536m -XX:PermSize=128M -XX:MaxNewSize=256m -XX:MaxPermSize=256m'

-------------------解決方案1：-----------------------------

前提：是執行startup.bat啟動tomcat的方式

Linux服務器：

在/usr/local/apache-tomcat-5.5.23/bin 目錄下的catalina.sh

添加：JAVA_OPTS='-Xms512m -Xmx1024m' 

或者 JAVA_OPTS="-server -Xms800m -Xmx800m -XX:MaxNewSize=256m"

或者 CATALINA_OPTS="-server -Xms256m -Xmx300m"

Windows服務器：

在catalina.bat最前面加入

set JAVA_OPTS=-Xms128m -Xmx350m

或者set CATALINA_OPTS=-Xmx300M -Xms256M

（區別是一個直接設置jvm內存，另一個設置tomcat內存，CATALINA_OPTS似乎可以與JAVA_OPTS不加區別的使用）

基本參數說明

-client，-server

這兩個參數用于設置虛擬機使用何種運行模式，一定要作為第一個參數，client模式啟動比較快，但運行時性能和內存管理效率不如server模式，通常用于客戶端應用程序。相反，server模式啟動比client慢，但可獲得更高的運行性能。

在windows上，缺省的虛擬機類型為client模式，如果要使用server模式，就需要在啟動虛擬機時加-server參數，以獲得更高性能，對服務器端應用，推薦采用server模式，尤其是多個CPU的系統。在Linux，Solaris上缺省采用server模式。

此外，在多cup下，建議用server模式

-Xms<size>

設置虛擬機可用內存堆的初始大小，缺省單位為字節，該大小為1024的整數倍并且要大于1MB，可用k(K)或m(M)為單位來設置較大的內存數。初始堆大小為2MB。加“m”說明是MB，否則就是KB了。

例如：-Xms6400K，-Xms256M

-Xmx<size>

設置虛擬機的最大可用大小，缺省單位為字節。該值必須為1024整數倍，并且要大于2MB。可用k(K)或m(M)為單位來設置較大的內存數。缺省堆最大值為64MB。

例如：-Xmx81920K，-Xmx80M

當應用程序申請了大內存運行時虛擬機拋出java.lang.OutOfMemoryError: Java heap space錯誤，就需要使用-Xmx設置較大的可用內存堆。

PermSize/MaxPermSize：定義Perm段的尺寸，即永久保存區域的大小，PermSize為JVM啟動時初始化Perm的內存大小；MaxPermSize為最大可占用的Perm內存大小。在用戶生產環境上一般將這兩個值設為相同，以減少運行期間系統在內存申請上所花的開銷。

如果用startup.bat啟動tomcat,OK設置生效.夠成功的分配200M內存.

-------------------解決方案2：------------------------

前提：是執行startup.bat啟動tomcat的方式

手動設置Heap size

Windows服務器：

修改TOMCAT_HOME/bin/catalina.bat，在“echo "Using CATALINA_BASE: $CATALINA_BASE"”上面加入以下行：

Java代碼

set JAVA_OPTS=%JAVA_OPTS% -server -Xms800m -Xmx800m -XX:MaxNewSize=256m 

注：JAVA_OPTS是保留先前設置。

Linux服務器：

修改TOMCAT_HOME/bin/catalina.sh

在“echo "Using CATALINA_BASE: $CATALINA_BASE"”上面加入以下行：

JAVA_OPTS="$JAVA_OPTS -server -Xms800m -Xmx800m -XX:MaxNewSize=256m"

注：$JAVA_OPTS是保留先前設置。

-------------------解決方案3：-----------------------------

前提：是執行windows的系統服務啟動tomcat的方式

但是如果不是執行startup.bat啟動tomcat而是利用windows的系統服務啟動tomcat服務,上面的設置就不生效了,

就是說set JAVA_OPTS=-Xms128m -Xmx350m 沒起作用.上面分配200M內存就OOM了..

windows服務執行的是bin\tomcat.exe.他讀取注冊表中的值,而不是catalina.bat的設置.

解決辦法:

修改注冊表HKEY_LOCAL_MACHINE\SOFTWARE\Apache Software Foundation\Tomcat Service Manager\Tomcat5\Parameters\JavaOptions

原值為

-Dcatalina.home="C:\ApacheGroup\Tomcat 5.0"

-Djava.endorsed.dirs="C:\ApacheGroup\Tomcat 5.0\common\endorsed"

-Xrs

加入 -Xms300m -Xmx350m 

重起tomcat服務,設置生效

-------------------解決方案4：-----------------------------

前提：是執行windows的系統服務啟動tomcat的方式

在安裝tomcat時若有勾選"NT Service(NT/2000/XP only)"

則安裝完成后在安裝目錄的"bin"目錄里會有一個tomcat.exe的檔案

先把tomcat的服務停掉

在命令列模式下（運行里輸入CMD）

將目錄切換到tomcat的bin目錄

用下面的命令把服務移除

tomcat -uninstall "Apache Tomcat 4.1"

接下來，寫個批處理。

內容如下

set SERVICENAME=Apache Tomcat 4.1

set CATALINA_HOME=E:\Tomcat 4.1.24

set CLASSPATH=D:\j2sdk1.4.1_01\lib

set JAVACLASSPATH=%CLASSPATH%

set JAVACLASSPATH=%JAVACLASSPATH%;?TALINA_HOME%\bin\bootstrap.jar

set JAVACLASSPATH=%JAVACLASSPATH%;?TALINA_HOME%\common\lib\servlet.jar

set JAVACLASSPATH=%JAVACLASSPATH%;%JAVA_HOME%\lib\tools.jar

tomcat.exe -install "%SERVICENAME%" "%JAVA_HOME%\jre\bin\server\jvm.dll" -Djava.class.path="%JAVACLASSPATH%" -Dcatalina.home="?TALINA_HOME%" -Xms512m -Xmx768m -start org.apache.catalina.startup.Bootstrap -params start -stop org.apache.catalina.startup.Bootstrap -params stop -out "?TALINA_HOME%\logs\stdout.log" -err "?TALINA_HOME%\logs\stderr.log"

注意，從 tomcat.exe -install開始的是最后一行！不要手工回車換行把這一行分成了好幾段。保存后在命令行下執行這個bat文件，注意執行的時候將“服務”窗口關閉。

第二種：永久保存區域溢出

　原因分析：

PermGen space的全稱是Permanent Generation space,是指內存的永久保存區域，這塊內存主要是被JVM存放Class和Meta信息的,Class在被Loader時就會被放到PermGen space中，它和存放類實例(Instance)的Heap區域不同,GC(Garbage Collection)不會在主程序運行期對PermGen space進行清理，所以如果你的應用中有很CLASS的話,就很可能出現PermGen space錯誤，這種錯誤常見在web服務器對JSP進行pre compile的時候。如果你的WEB APP下都用了大量的第三方jar, 其大小超過了jvm默認的大小(4M)那么就會產生此錯誤信息了。但目前的hibernate和spring項目中也很容易出現這樣的問題。可能是由于這些框架會動態class，而且jvm的gc是不會清理PemGen space的，超過了jvm默認的大小(4M)，導致內存溢出。

　　建議：將相同的第三方jar文件移置到tomcat/shared/lib目錄下，這樣可以達到減少jar 文檔重復占用內存的目的。

這一個一般是加大-XX：PermSize -XX：MaxPermSize 來解決問題。

　　-XX：PermSize 永久保存區域初始大小

　　-XX：PermSize 永久保存區域初始最大值

　　這一般結合第一條使用，比如 set JAVA_OPTS= -Xms1024m -Xmx1024m -XX：PermSize=128M -XX：PermSize=256M

　　有一點需要注意：java -Xmx***M version 命令來測試的最大堆內存是 -Xmx與 -XX：PermSize的和比如系統支持最大的jvm堆大小事1.5G，那 -Xmx1024m -XX：PermSize=768M 是無法運行的。

-----------------解決方案1：-------------------------

Linux服務器：

在catalina.sh的第一行增加：

JAVA_OPTS=

-Xms64m

-Xmx256m

-XX:PermSize=128M

-XX:MaxNewSize=256m

-XX:MaxPermSize=256m

或者

在“echo "Using CATALINA_BASE: $CATALINA_BASE"”上面加入以下行：

JAVA_OPTS="-server -XX:PermSize=64M -XX:MaxPermSize=128m

Windows服務器：

在catalina.bat的第一行增加：

set JAVA_OPTS=-Xms64m -Xmx256m -XX:PermSize=128M -XX:MaxNewSize=256m -XX:MaxPermSize=256m 

-----------------解決方案2：------------------------

修改TOMCAT_HOME/bin/catalina.bat（Linux下為catalina.sh），在Java代碼

“echo "Using CATALINA_BASE: $CATALINA_BASE"”上面加入以下行： 

set JAVA_OPTS=%JAVA_OPTS% -server -XX:PermSize=128M -XX:MaxPermSize=512m 

“echo "Using CATALINA_BASE: $CATALINA_BASE"”上面加入以下行：

set JAVA_OPTS=%JAVA_OPTS% -server -XX:PermSize=128M -XX:MaxPermSize=512m

catalina.sh下為：

Java代碼

JAVA_OPTS="$JAVA_OPTS -server -XX:PermSize=128M -XX:MaxPermSize=512m" 

JAVA_OPTS="$JAVA_OPTS -server -XX:PermSize=128M -XX:MaxPermSize=512m"

　　第三種：無法創建新的線程。

　　這種現象比較少見，也比較奇怪，主要是和jvm與系統內存的比例有關。

　　這種怪事是因為JVM已經被系統分配了大量的內存（比如1.5G），并且它至少要占用可用內存的一半。有人發現，在線程個數很多的情況下，你分配給JVM的內存越多，那么，上述錯誤發生的可能性就越大。

　　原因分析

（從這個blog中了解到原因：http://hi.baidu.com/hexiong/blog/item/16dc9e518fb10c2542a75b3c.html）：

　　每一個32位的進程最多可以使用2G的可用內存，因為另外2G被操作系統保留。這里假設使用1.5G給JVM，那么還余下500M可用內存。這500M內存中的一部分必須用于系統dll的加載，那么真正剩下的也許只有400M，現在關鍵的地方出現了：當你使用Java創建一個線程，在JVM的內存里也會創建一個Thread對象，但是同時也會在操作系統里創建一個真正的物理線程（參考JVM規范），操作系統會在余下的 400兆內存里創建這個物理線程，而不是在JVM的1500M的內存堆里創建。在jdk1.4里頭，默認的棧大小是256KB，但是在jdk1.5里頭，默認的棧大小為1M每線程，因此，在余下400M的可用內存里邊我們最多也只能創建400個可用線程。

　　這樣結論就出來了，要想創建更多的線程，你必須減少分配給JVM的最大內存。還有一種做法是讓JVM宿主在你的JNI代碼里邊。

　　給出一個有關能夠創建線程的最大個數的估算公式：

　　（MaxProcessMemory - JVMMemory - ReservedOsMemory） / （ThreadStackSize） = Number of threads

　　對于jdk1.5而言，假設操作系統保留120M內存：

　　1.5GB JVM： （2GB-1.5Gb-120MB）/（1MB） = ~380 threads

　　1.0GB JVM： （2GB-1.0Gb-120MB）/（1MB） = ~880 threads

　　在2000/XP/2003的boot.ini里頭有一個啟動選項，好像是：/PAE /3G ，可以讓用戶進程最大內存擴充至3G，這時操作系統只能占用最多1G的虛存。那樣應該可以讓JVM創建更多的線程。

　　因此這種情況需要結合操作系統進行相關調整。

　　因此：我們需要結合不同情況對tomcat內存分配進行不同的診斷才能從根本上解決問題。

檢測當前JVM內存使用情況：

System.out.println("JVM MAX MEMORY: " + Runtime.getRuntime().maxMemory()/1024/1024+"M");

System.out.println("JVM IS USING MEMORY:" + Runtime.getRuntime().totalMemory()/1024/1024+"M");

System.out.println("JVM IS FREE MEMORY:" + Runtime.getRuntime().freeMemory()/1024/1024+"M");

這三個方法都是說JVM的內存使用情況而不是操作系統的內存；

　　maxMemory()這個方法返回的是java虛擬機（這個進程）能構從操作系統那里挖到的最大的內存，以字節為單位，如果在運行java程序的時候，沒有添加-Xmx參數，那么就是64兆，也就是說maxMemory()返回的大約是64*1024*1024字節，這是java虛擬機默認情況下能從操作系統那里挖到的最大的內存。如果添加了-Xmx參數，將以這個參數后面的值為準，例如java -cp ClassPath -Xmx512m ClassName，那么最大內存就是512*1024*0124字節。

　　totalMemory()這個方法返回的是java虛擬機現在已經從操作系統那里挖過來的內存大小，也就是java虛擬機這個進程當時所占用的所有內存。如果在運行java的時候沒有添加-Xms參數，那么，在java程序運行的過程的，內存總是慢慢的從操作系統那里挖的，基本上是用多少挖多少，直挖到maxMemory()為止，所以totalMemory()是慢慢增大的。如果用了-Xms參數，程序在啟動的時候就會無條件的從操作系統中挖-Xms后面定義的內存數，然后在這些內存用的差不多的時候，再去挖。

　　freeMemory()是什么呢，剛才講到如果在運行java的時候沒有添加-Xms參數，那么，在java程序運行的過程的，內存總是慢慢的從操作系統那里挖的，基本上是用多少挖多少，但是java虛擬機100％的情況下是會稍微多挖一點的，這些挖過來而又沒有用上的內存，實際上就是freeMemory()，所以freeMemory()的值一般情況下都是很小的，但是如果你在運行java程序的時候使用了-Xms，這個時候因為程序在啟動的時候就會無條件的從操作系統中挖-Xms后面定義的內存數，這個時候，挖過來的內存可能大部分沒用上，所以這個時候freeMemory()可能會有些

--------------------解決方案--------------------------

JVM堆大小的調整

　　Sun HotSpot 1.4.1使用分代收集器，它把堆分為三個主要的域：新域、舊域以及永久域。Jvm生成的所有新對象放在新域中。一旦對象經歷了一定數量的垃圾收集循環后，便獲得使用期并進入舊域。在永久域中jvm則存儲class和method對象。就配置而言，永久域是一個獨立域并且不認為是堆的一部分。

　　下面介紹如何控制這些域的大小。可使用-Xms和-Xmx 控制整個堆的原始大小或最大值。

　　下面的命令是把初始大小設置為128M：

　　java –Xms128m

　　–Xmx256m為控制新域的大小，可使用-XX:NewRatio設置新域在堆中所占的比例。

　　下面的命令把整個堆設置成128m，新域比率設置成3，即新域與舊域比例為1：3，新域為堆的1/4或32M：

java –Xms128m –Xmx128m

–XX:NewRatio =3可使用-XX:NewSize和-XX:MaxNewsize設置新域的初始值和最大值。

　　下面的命令把新域的初始值和最大值設置成64m:

java –Xms256m –Xmx256m –Xmn64m

　　永久域默認大小為4m。運行程序時，jvm會調整永久域的大小以滿足需要。每次調整時，jvm會對堆進行一次完全的垃圾收集。

　　使用-XX:MaxPerSize標志來增加永久域搭大小。在WebLogic Server應用程序加載較多類時，經常需要增加永久域的最大值。當jvm加載類時，永久域中的對象急劇增加，從而使jvm不斷調整永久域大小。為了避免調整，可使用-XX:PerSize標志設置初始值。

　　下面把永久域初始值設置成32m，最大值設置成64m。

java -Xms512m -Xmx512m -Xmn128m -XX:PermSize=32m -XX:MaxPermSize=64m

　　默認狀態下，HotSpot在新域中使用復制收集器。該域一般分為三個部分。第一部分為Eden，用于生成新的對象。另兩部分稱為救助空間，當Eden充滿時，收集器停止應用程序，把所有可到達對象復制到當前的from救助空間，一旦當前的from救助空間充滿，收集器則把可到達對象復制到當前的to救助空間。From和to救助空間互換角色。維持活動的對象將在救助空間不斷復制，直到它們獲得使用期并轉入舊域。使用-XX:SurvivorRatio可控制新域子空間的大小。

　　同NewRation一樣，SurvivorRation規定某救助域與Eden空間的比值。比如，以下命令把新域設置成64m，Eden占32m，每個救助域各占16m：

java -Xms256m -Xmx256m -Xmn64m -XX:SurvivorRation =2

　　如前所述，默認狀態下HotSpot對新域使用復制收集器，對舊域使用標記－清除－壓縮收集器。在新域中使用復制收集器有很多意義，因為應用程序生成的大部分對象是短壽命的。理想狀態下，所有過渡對象在移出Eden空間時將被收集。如果能夠這樣的話，并且移出Eden空間的對象是長壽命的，那么理論上可以立即把它們移進舊域，避免在救助空間反復復制。但是，應用程序不能適合這種理想狀態，因為它們有一小部分中長壽命的對象。最好是保持這些中長壽命的對象并放在新域中，因為復制小部分的對象總比壓縮舊域廉價。為控制新域中對象的復制，可用-XX:TargetSurvivorRatio控制救助空間的比例（該值是設置救助空間的使用比例。如救助空間位1M，該值50表示可用500K）。該值是一個百分比，默認值是50。當較大的堆棧使用較低的sruvivorratio時，應增加該值到80至90，以更好利用救助空間。用-XX:maxtenuring threshold可控制上限。

　　為放置所有的復制全部發生以及希望對象從eden擴展到舊域，可以把MaxTenuring Threshold設置成0。設置完成后，實際上就不再使用救助空間了，因此應把SurvivorRatio設成最大值以最大化Eden空間，設置如下：

java … -XX:MaxTenuringThreshold=0 –XX:SurvivorRatio＝50000 …

垃圾回收描述：

垃圾回收分多級，0級為全部(Full)的垃圾回收，會回收OLD段中的垃圾；1級或以上為部分垃圾回收，只會回收Young中的垃圾，內存溢出通常發生于OLD段或Perm段垃圾回收后，仍然無內存空間容納新的Java對象的情況。

當一個URL被訪問時，內存申請過程如下：

A. JVM會試圖為相關Java對象在Eden中初始化一塊內存區域

B. 當Eden空間足夠時，內存申請結束。否則到下一步

C. JVM試圖釋放在Eden中所有不活躍的對象（這屬于1或更高級的垃圾回收）；釋放后若Eden空間仍然不足以放入新對象，則試圖將部分Eden中活躍對象放入Survivor區/OLD區

D. Survivor區被用來作為Eden及OLD的中間交換區域，當OLD區空間足夠時，Survivor區的對象會被移到Old區，否則會被保留在Survivor區

E. 當OLD區空間不夠時，JVM會在OLD區進行完全的垃圾收集（0級）

F. 完全垃圾收集后，若Survivor及OLD區仍然無法存放從Eden復制過來的部分對象，導致JVM無法在Eden區為新對象創建內存區域，則出現”out of memory錯誤”

Java堆相關參數：

ms/mx：定義YOUNG+OLD段的總尺寸，ms為JVM啟動時YOUNG+OLD的內存大小；mx為最大可占用的YOUNG+OLD內存大小。在用戶生產環境上一般將這兩個值設為相同，以減少運行期間系統在內存申請上所花的開銷。

NewSize/MaxNewSize：定義YOUNG段的尺寸，NewSize為JVM啟動時YOUNG的內存大小；MaxNewSize為最大可占用的YOUNG內存大小。在用戶生產環境上一般將這兩個值設為相同，以減少運行期間系統在內存申請上所花的開銷。

PermSize/MaxPermSize：定義Perm段的尺寸，PermSize為JVM啟動時Perm的內存大小；MaxPermSize為最大可占用的Perm內存大小。在用戶生產環境上一般將這兩個值設為相同，以減少運行期間系統在內存申請上所花的開銷。

SurvivorRatio：設置Survivor空間和Eden空間的比例

例：

MEM_ARGS="-Xms512m -Xmx512m -XX:NewSize=256m -XX:MaxNewSize=256m -XX:PermSize=128m -XX:MaxPermSize=128m -XX:SurvivorRatio=6"

在上面的例子中：

YOUNG+OLD: 512M

YOUNG: 256M

Perm: 128M

Eden: YOUNG*6/(6+1+1)=192M

Survivor: YOUNG/(6+1+1)=32M

Java堆的總尺寸=YOUNG+OLD+Perm=640M