軟件測試不再黑盒—threadingtest帶來第二代白盒覆蓋率技術

發布時間：2020-07-06 21:39:00 來源：網絡閱讀：521 作者：yanger_寶兒欄目：軟件技術

穿線測試對于測試界的一個重大創新在于，在白盒測試理論出現數十年以后，上海零一拼裝信息技術有限公司結合在測試理論方面十余年的潛心研究，率先提出了第二代覆蓋率技術，這絕對不是一個口號，而是ZOA真正對于白盒測試的理解以及對于標準第三方測試服務的深度理解經過數年的基礎研究以及2年有余的研發而推出的達到商用標準的技術。現在先讓我們溫習下經典的測試理論：

1、測試方法論

黑盒功能測試法：

黑盒功能測試法, 是把要測試的軟件看成一個“黑盒子”, 不管其內部結構如何以及以什么算法實現所要求提供的功能，而是按照需求的功能化要求, 設計相應的測試用例(包括測試的輸入數據與條件設置和所預期的軟件運行輸出結果), 通過軟件運行后所給出的輸出(包括字符形式的輸出與圖象輸出)與所預期的結果進行人工或者自動化比較, 來驗證被測試軟件是否能給出正確的結果, 從而判斷該軟件是否滿足需求, 是否與該軟件系統的規格說明書和用戶手冊相關部分一致。

這一方法的優點為:

(A) 能最直觀和直接地反映出所設計的軟件是否滿足需求;

(B) 即使沒有任何測試工具支援, 也能靠人工測試的方法完成;

其不足之處是：

(A) 這種測試方法難以找出某些特殊類型的錯誤。例如: 當對應于某組輸入該被測軟件并不提供任何輸出信息時–可能只是改變了某種工作狀態,如果其中的源代碼處理部分有錯誤, 就比較難找出來；

(B) 無法確定哪些測試用例有效或者無效 (所謂無效, 并不是說單獨使用某個測試用例時不能收到任何測試效果, 而是在于它和前面已經使用過的測試用例一起使用時, 毫無貢獻, 只是重復了前面的測試用例已經完成的測試)；

白盒結構測試法

白盒結構測試法則與黑盒子功能測試方法相反: 它不管所被測試的軟件是否滿足需求,是否實現了所設計的功能, 而只注重該軟件內部的結構, 以便設計足夠多的測試用例, 使得百分百或者盡可能多的程序組成要素能被測試到最少一次, 從而盡可能地將其中的軟件錯誤暴露出來。

白盒子結構測試方法的優點:

(A) 能夠找出許多用功能測試方法找不出來的軟件錯誤;

(B) 可以在整個軟件系統還未完成之前就分別對各個單元進行測試;

(D) 可以同時進行內存泄漏分析;

(E) 可以同時進行分支執行頻度分析;

(F) 可以同時進行軟件復雜度分析;

(G) 可以同時進行數據和變量分析;

(H) 可以同時進行性能分析;

(I) 可以同時進行動態運行錯誤定位與執行路徑追溯等。

白盒子結構測試方法的缺點:

（1）必須通過專門的測試工具來進行, 需要在用戶的軟件的拷貝上進行插樁（插入紀錄點）記錄各分支/條件是否被執行過或者執行過多少次的信息;

（2）會使被測試的軟件的運行速度減慢;

（3）需要增加被測試軟件運行時的資源開銷等。

關于軟件質量的誤區

有不少軟件開發組織和應用軟件開發部門的管理者錯誤地認為，他們已經對他們所開發的軟件做了充分的功能測試(又稱"黑盒測試")了，認為"我們的軟件質量沒問題！" ——但是，專家們分析了大量"經過充分的功能測試"的軟件后發現，這些軟件中還有大約一半的程序分支從未被執行過！

為什么會這樣？原來，軟件的功能描述相對來說非常容易、非常簡單、也非常粗糙，無法詳細到用軟件內部的具體實現邏輯結構來說明；而要達到同樣的功能，軟件可以有許許多多等效的實現方法；特別是，軟件功能的實現，與所使用的編寫程序的語言、所運行的操作系統環境、所用到的數據庫以及某些第三方的軟件都有關系。事實上，一個軟件中的許許多多程序分支跟該軟件本身的功能并沒有直接的聯系，而是用來處理各種可能出現的運行情況的。例如，所開發的軟件在運行中突然被終止時(系統斷電或者用戶打斷)如何保護已經打開的文檔；在系統資源用盡之前如何提出警告；在所要用到的某些文件被意外地***了時如何應付等等。這些程序分支在編寫中同樣存在著可能的錯誤，必須加于測試。而這通常都需要通過程序的結構測試(又稱"白盒測試")來完成，而白盒結構測試是必須借助于軟件測試工具才能進行的。

ThreadingTest針對上訴的質量誤區情況在測試過程中對于一組輸入，既判斷其輸出（如果有）是否與預期值一致，又判斷其執行路徑是否與預期值一致。這樣一來，即使測試輸出結果與預期值一致，也可能有錯誤被找出來－如果所預期的執行路徑與實際的執行路徑不一致。例如，當測試一個計算器程序時，如果輸入是2＋2，測到的結果是4，也可能是個錯誤－如果它的執行路徑與預期值不一致：其最終的結果可能是2×2的路徑的輸出結果。由于TT可以測試有輸入而無輸出的場合（此時僅僅測試其執行路徑是否與所期待的路徑一致），因而可以在任何開發階段使用，實現名副其實的全過程測試驅動。

2、第二代白盒覆蓋率技術

覆蓋率技術是軟件測試的基本技術手段之一，但是數十年以來雖然也出現過多種理論方法以及商用產品，但其一直未在測試界主流應用領域推廣，主要原因有以下幾點點：

（1）通常覆蓋率結果在重新發布版本以后必須重新進行累計，對于龐大的程序相當于對歷史的測試全部歸零。

（2）軟件測試的通常場景，是需要用測試工具對代碼進行分析，而軟件測試工具，尤其是可以達到商用標準的白盒測試工具一直被國外的幾大老牌軟件測試工具所壟斷，價格高昂，并且對于航天、軍事級別的測試需求來說信息安全可靠度差。

（3）白盒測試操作難度大，測試人員很難理解，在測試團隊中很難推廣。

（4）白盒測試工具都是單機版，很難再大型測試團隊中推廣使用。

（5）覆蓋率和測試用例無任何關系，通常覆蓋率是執行一系列動作的混合結果，而通常測試人員以及開發人員在定位問題的時候需要明確知道某個功能對應的代碼覆蓋率。而這些傳統的白盒測試工具都無法支持。

（6）隨著移動應用在消費級、企業級的市場所占比重越來越大，一些老牌的測試工具針對移動環境（android、iOS）的測試明顯支持乏力甚至不提供支持。

上述原因讓第一代的覆蓋率技術很難真正的得到推廣。ThreadingTest針對第一代的覆蓋率技術的缺陷提出了全新的第二代覆蓋率技術，并在覆蓋率方法的基礎上，設計了全新的應用功能：

（1）無需監管測試場景：覆蓋率的統計完全可以由后臺程序運行收集，對測試人員實現透明化，測試人員只需要運行插樁后的程序，開啟程序的自動收集功能，即可無需監管的進行常規測試，TT會自動將程序的測試執行情況收集、分析、存入數據庫，配合TT就可以輕松的查看程序的實時覆蓋率。