如何理解服務器單I/O線程＋工作者線程池模型架構及實現要點

如何理解服務器單I/O線程＋工作者線程池模型架構及實現要點，相信很多沒有經驗的人對此束手無策，為此本文總結了問題出現的原因和解決方法，通過這篇文章希望你能解決這個問題。

我們知道，服務器并發模型通常可分為單線程和多線程模型，這里的線程通常是指“I/O線程”，即負責I/O操作，協調分配任務的“管理線程”，而實際的請求和任務通常交由所謂“工作者線程”處理。通常多線程模型下，每個線程既是I/O線程又是工作者線程。所以這里討論的是，單I/O線程+多工作者線程的模型，這也是最常用的一種服務器并發模型。我所在的項目中的server代碼中，這種模型隨處可見。它還有個名字，叫“半同步/半異步“模型，同時，這種模型也是生產者/消費者（尤其是多消費者）模型的一種表現。

這種架構主要是基于I/O多路復用的思想（主要是epoll，select/poll已過時），通過單線程I/O多路復用，可以達到高效并發，同時避免了多線程I/O來回切換的各種開銷，思路清晰，易于管理，而基于線程池的多工作者線程，又可以充分發揮和利用多線程的優勢，利用線程池，進一步提高資源復用性和避免產生過多線程。

1.模型架構

2 實現要點

2.1 單I/O 線程epoll

實現單I/O線程的epoll模型是本架構的第一個技術要點，主要思想如下：

單線程創建epoll并等待，有I/O請求（socket）到達時，將其加入epoll并從線程池中取一個空閑工作者線程，將實際的任務交由工作者線程處理。

偽碼：

偽碼可能寫的不太好，其實就是基本的epoll使用。

但要注意和線程池的配合使用，如果線程池取不到空閑的工作者線程，還需要做一些處理。

2.2 線程池實現要點

server啟動時，創建一定數量的工作者線程加入線程池，如（20個），供I/O線程來取用；

每當I/O線程請求空閑工作者線程時，從池中取出一個空閑工作者線程，處理相應請求；

當請求處理完畢，關閉相應I/O連接時，回收相應線程并放回線程池中供下次使用；

若請求空閑工作者線程池時，沒有空閑工作者線程，可作如下處理：

(1)若池中”管理”的線程總數不超過最大允許值，可創建一批新的工作者線程加入池中，并返回其中一個供I/O線程使用；

(2)若池中”管理”的線程總數已經達到最大值，不應再繼續創建新線程， 則等待一小段時間并重試。注意因為I/O線程是單線程且不應被阻塞等待在此處，所以其實對線程池的管理應由一個專門的管理線程完成，包括創建新工作者線程等工作。此時管理線程阻塞等待（如使用條件變量并等待喚醒），一小段時間之后，線程池中應有空閑工作者線程可使用。否則server負荷估計是出了問題。

看完上述內容，你們掌握如何理解服務器單I/O線程＋工作者線程池模型架構及實現要點的方法了嗎？如果還想學到更多技能或想了解更多相關內容，歡迎關注億速云行業資訊頻道，感謝各位的閱讀！