應用OSCache提升J2EE系統運行性能

文章摘要

Cache是一種用于提高系統響應速度、改善系統運行性能的技術。尤其是在Web應用中，通過緩存頁面的輸出結果，可以很顯著的改善系統運行性能。本文中作者給大家介紹一個實現J2EE框架中Web應用層緩存功能的開放源代碼項目----OSCache。通過應用OSCache，我們不但可以實現通常的Cache功能，還能夠改善系統的穩定性。

1 面臨的問題

1.1 需要處理的特殊動態內容

在信息系統建設過程中我們通常會遇到這樣的問題：

1. 基礎數據的變更問題

信息系統中需要處理的基礎數據的內容短時間內是不會發生變化的，但是在一個相對長一些的時間里，它卻可能是動態增加或者減少的。

舉個例子：電子商務中關于送貨區域的定義，可能短時間內不會發生變化，但是隨著電子商務企業業務的擴大，系統中需要處理的送貨區域就可能增加。所以我們的系統中不得不在每次向客戶展示送貨區域信息的時候都和數據庫（假設送貨區域信息保存在數據庫中，這也是通常采用的處理方法）進行交互。

2. 統計報表（不僅限于統計報表）的問題

一般來說，統計報表是一個周期性的工作，可能是半個月、一個月或者更長的時間才會需要更新一次，然而統計報表通常是圖形顯示或者是生成pdf、word、excel等格式的文件，這些圖形內容、文件的生成通常需要消耗很多的系統資源，給系統運行造成很大的負擔。

1.2 問題的共同點

通過比較分析，不難發現這兩類問題有一些共同點：

1、被處理的內容短時間不變，所以短時間內可以作為靜態內容進行處理

2、在一個不太長的時間內，被處理的內容可能或者必定產生變化，所以必須將他們作為動態內容進行處理

3、在合理的時間區段內可以忽略被處理內容變化后帶來的影響

4、對這些內容的處理動作比較消耗系統性能，影響系統響應時間

1.3 解決方法

緩存技術可以幫助我們很好的解決這個問題：

1、緩存信息

當上述的基礎數據或者統計報表第一次被訪問時，被處理的內容被當作動態信息，基礎數庫從數據庫中獲得，統計報表也會被生成符合要求的圖形、文件，然后這些信息都會被放入緩存信息中。

2、響應信息由緩存提供

當上述的基礎數據或者統計報表繼續被訪問時，系統將會首先檢查緩存信息中是否有對應的內容和我們設定的緩存規則，如果符合緩存信息存在而且符合緩存規則，給出的響應將來自于緩存信息，如果沒有或者緩存信息已經不符合設定的要求，系統將重復上一步的動作。

很顯然，上面的步驟2中，多數情況下，當用戶請求到達時，被處理的內容將來自于緩存，所以大大的減少了與數據庫的交互，或者不再需要為每個請求都生成一次報表圖形或者文件，這部分工作的減少對于降低系統性能消耗、提高系統穩定性和并發處理能力是非常有益的。

2 OSCache簡介

OSCache是OpenSymphony組織提供的一個J2EE架構中Web應用層的緩存技術實現組件，它的出現解決了我們面臨的問題。 OSCache目前最新的穩定版本是2.0，本文中的例子都是基于這個版本的，如果大家運行例子的過程中發生問題，請首先確認是否采用了正確的軟件版本。

2.1 主要特征

1. 兼容多種支持JSP的web服務器

已經通過兼容測試的web服務器包括OrionServer (1.4.0或者以上版本) 、Macromedia JRun (3.0或者以上版本) 、BEA Weblogic (7.x或者以上版本) 、IBM Websphere (5.0版本)、Silverstream (3.7.4版本)、Caucho Resin (1.2.3或者以上版本)、Tomcat (4.0或者以上版本) ，其他支持servlet2.3、jsp1.2的web服務器應該都是完全兼容OSCache的。

2. 可選的緩存區

你可以使用內存、硬盤空間、同時使用內存和硬盤或者提供自己的其他資源（需要自己提供適配器）作為緩存區。

• 使用內存作為緩存區將可以提供更好的性能
• 使用硬盤作為緩存區可以在服務器重起后迅速恢復緩存內容
• 同時使用內存和硬盤作為緩存區則可以減少對內存的占用

3. 靈活的緩存系統

OSCache支持對部分頁面內容或者對頁面級的響應內容進行緩存，編程者可以根據不同的需求、不同的環境選擇不同的緩存級別。

4. 容錯

在一般的web應用中，如果某個頁面需要和數據庫打交道，而當客戶請求到達時，web應用和數據庫之間無法進行交互，那么將返回給用戶"系統出錯"或者類似的提示信息，如果使用了OSCache的話，你可以使用緩存提供給用戶，給自己贏得維護系統或者采取其他補救的時間。

其它特性還包括對集群的支持、緩存主動刷新等特性，大家可以參考OpenSymphony網站上的其他資源獲取更多的信息。

3 OSCache組件的安裝

OSCache是一個基于web應用的組件，他的安裝工作主要是對web應用進行配置，大概的步驟如下：

1. 下載、解壓縮OSCache

請到OSCache的主頁http://www.opensymphony.com/oscache/download.html下載Oscache的最新版本，作者下載的是OSCache的最新穩定版本2.0。

將下載后的。Zip文件解壓縮到c:oscache（后面的章節中將使用%OSCache_Home%來表示這個目錄）目錄下

2. 新建立一個web應用

3. 將主要組件%OSCache_Home%oscache.jar放入WEB-INFlib目錄

4. commons-logging.jar、commons-collections.jar的處理

• OSCache組件用Jakarta Commons Logging來處理日志信息，所以需要commons-logging.jar的支持，請將%OSCache_Home%libcorecommons-logging.jar放入classpath（通常意味著將這個文件放入WEB-INFlib目錄）
• 如果使用JDK1.3,請將%OSCache_Home%libcorecommons-collections.jar放入classpath，如果使用JDK1.4或者以上版本，則不需要了

5. 將oscache.properties、oscache.tld放入WEB-INFclass目錄

• %OSCache_Home%oscache.properties包含了對OSCache運行特征值的設置信息
• %OSCache_Home%oscache.tld包含了OSCache提供的標簽庫的定義內容

6. 修改web.xml文件

在web.xml文件中增加下面的內容，增加對OSCache提供的taglib的支持：

oscache
/WEB-INF/classes/ oscache.tld

4 開始使用OSCache中的緩存組件

OSCache中按照緩存范圍的不同分為兩種不同的方式：一種是緩存JSP頁面中部分或者全部內容，一種是基于整個頁面文件的緩存。

4.1 JSP部分內容緩存

4.1.1 Cache-OSCache提供的緩存標簽

這是OSCache提供的標簽庫中最重要的一個標簽，包括在標簽中的內容將應用緩存機制進行處理，處理的方式將取決于編程者對cache標簽屬性的設置。

第一次請求到達時，標簽中的內容被處理并且緩存起來，當下一個請求到達時，緩存系統會檢查這部分內容的緩存是否已經失效，主要是以下幾項：

• 1. 緩存時間超過了cache標簽設置的time或者duration屬性規定的超時時間
• 2. cron屬性規定的時間比緩存信息的開始時間更晚
• 3. 標簽中緩存的內容在緩存后又被重新刷新過
• 4. 其他緩存超期設定

如果符合上面四項中的任何一項，被緩存的內容視為已經失效，這時被緩存的內容將被重新處理并且返回處理過后的信息，如果被緩存的內容沒有失效，那么返回給用戶的將是緩存中的信息。

cache標簽的屬性說明:

key - 標識緩存內容的關鍵詞。在指定的作用范圍內必須是唯一的。默認的key是被訪問頁面的URI和后面的請求字符串。

你可以在同一個頁面中使用很多cache標簽而不指定他的key屬性，這種情況下系統使用該頁面的URI和后面的請求字符串，另外再自動給這些key增加一個索引值來區分這些緩存內容。但是不推薦采用這樣的方式。

scope - 緩存發生作用的范圍，可以是application或者session

time - 緩存內容的時間段，單位是秒，默認是3600秒，也就是一個小時，如果設定一個負值，那么這部分被緩存的內容將永遠不過期。

duration - 指定緩存內容失效的時間，是相對time的另一個選擇，可以使用簡單日期格式或者符合USO-8601的日期格式。如：duration='PT5M' duration='5s'等

refresh - false 或者true。

如果refresh屬性設置為true，不管其他的屬性是否符合條件，這部分被緩存的內容都將被更新，這給編程者一種選擇，決定什么時候必須刷新。

mode - 如果編程者不希望被緩存的內容增加到給用戶的響應中，可以設置mode屬性為"silent"

其它可用的屬性還包括：cron 、groups、language、refreshpolicyclass、refreshpolicyparam。

上面的這些屬性可以單獨使用，也可以根據需要組合使用，下面的例子將講解這些常用屬性的使用方式。

4.1.2 Cache標簽實例分析:

1. 最簡單的cache標簽用法

使用默認的關鍵字來標識cache內容，超時時間是默認的3600秒

<%
//自己的JSP代碼內容
%>

2. 用自己指定的字符串標識緩存內容，并且設定作用范圍為session。

<%
//自己的JSP代碼內容
%>

3.動態設定key值，使用自己指定的time屬性設定緩存內容的超時時間，使用動態refresh值決定是否強制內容刷新。

因為OSCache使用key值來標識緩存內容，使用相同的key值將會被認為使用相同的的緩存內容，所以使用動態的key值可以自由的根據不同的角色、不同的要求決定使用不同的緩存內容。

<%
//自己的JSP代碼內容
%>

4. 設置time屬性為負數使緩存內容永不過期

<%
//自己的JSP代碼內容
%>

5. 使用duration屬性設置超期時間

<%
//自己的JSP代碼內容
%>

6. 使用mode屬性使被緩存的內容不加入給客戶的響應中

<%
//自己的JSP代碼內容
%>

4.2 用CashFilter實現頁面級緩存

在OSCache組件中提供了一個CacheFilter用于實現頁面級的緩存，主要用于對web應用中的某些動態頁面進行緩存，尤其是那些需要生成pdf格式文件/報表、圖片文件等的頁面，不僅減少了數據庫的交互、減少數據庫服務器的壓力，而且對于減少web服務器的性能消耗有很顯著的效果。

這種功能的實現是通過在web.xml中進行配置來決定緩存哪一個或者一組頁面，而且還可以設置緩存的相關屬性，這種基于配置文件的實現方式對于J2EE來說應該是一種標準的實現方式了。

[注] 只有客戶訪問時返回http頭信息中代碼為200（也就是訪問已經成功）的頁面信息才能夠被緩存

1. 緩存單個文件

修改web.xml，增加如下內容，確定對/testContent.jsp頁面進行緩存。

      CacheFilter
com.opensymphony.oscache.web.filter.CacheFilter


CacheFilter
/testContent.jsp

2. 緩存URL pattern

修改web.xml，增加如下內容，確定對*.jsp頁面進行緩存。

      CacheFilter
com.opensymphony.oscache.web.filter.CacheFilter


CacheFilter
*.jsp

3. 自己設定緩存屬性

在頁面級緩存的情況下，可以通過設置CacheFilter的初始屬性來決定緩存的一些特性：time屬性設置緩存的時間段，默認為3600秒，可以根據自己的需要只有的設置，而scope屬性設置，默認為application，可選項包括application、session

      CacheFilter
com.opensymphony.oscache.web.filter.CacheFilter
 
         time
         600
      
      
         scope
         session
      


CacheFilter
*.jsp

5 性能測試結果

5.1 測試環境

系統平臺：windows 2000 高級服務器/ P3 800 /512M內存

web服務器：websphere 5.0

數據庫服務器：mysql 4.0.18-nt

性能測試用工具：apache Jmeter

5.2 測試計劃

這次性能測試對比方為使用緩存和不使用緩存兩種，他們的訪問代碼都是一樣的：通過數據源從本地mysql數據庫中獲取person表的所有記錄，然后顯示在頁面上。

測試中將模仿10個用戶，每個用戶發起5次請求，然后統計所有訪問花費的時間。

5.3 測試結果

使用緩存后的測試結果 不使用緩存時的測試結果

所有請求花費的總時間(毫秒) 20569 22870

性能測試的詳細結果請大家查看下載內容中的《不使用cache時的系統性能測試結果.txt》和《使用cache后系統性能測試結果.txt》

6 總結

在J2EE系統中，我們經常需要處理一些特殊的動態內容，這些內容在一個時間段內的變更非常有限，但是又不得不將他們確定為動態內容進行輸出，而且非常消耗數據庫系統資源或者web服務器的資源，這時我們就可以采用Cache----一種用于提高系統響應速度、改善系統運行性能的技術----來優化我們的系統。尤其是在Web應用中，這種處理可以很顯著的改善系統運行性能。

本文中作者給大家介紹一個實現J2EE框架中Web應用層緩存功能的開放源代碼項目----OSCache。它提供了在J2EE系統中實現緩存需要的豐富的功能。通過應用OSCache，我們不但可以實現通常的Cache功能、自由的設定cache的相關特性比如緩存時間段/緩存內容等，提升系統性能，而且還能有效的改善系統的穩定性。除此之外，OSCache組件還提供了更多的特性比如集群、容錯、靈活的緩存區選擇等。

作者根據自己的使用經驗給大家提供了一些簡單的例子，他們部分演示了如何使用OSCache組件提供的豐富特性，OSCache提供的特性遠不止這些，需要大家在今后的時間里深入的研究