亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Golang?WaitGroup底層原理是什么

發布時間:2023-04-27 17:44:08 來源:億速云 閱讀:135 作者:iii 欄目:開發技術

本文小編為大家詳細介紹“Golang WaitGroup底層原理是什么”,內容詳細,步驟清晰,細節處理妥當,希望這篇“Golang WaitGroup底層原理是什么”文章能幫助大家解決疑惑,下面跟著小編的思路慢慢深入,一起來學習新知識吧。

    0.1 WaitGroup

    WaitGroup 是 Golang 中最常見的并發控制技術之一,它的作用我們可以簡單類比為其他語言中多線程并發控制中的 join(),實例代碼如下:

    package main
    import (
    	"fmt"
    	"sync"
    	"time"
    )
    func main() {
    	fmt.Println("Main starts...")
    	var wg sync.WaitGroup
    	// 2 指的是下面有兩個協程需要等待
    	wg.Add(2)
    	go waitFunc(&wg, 3)
    	go waitFunc(&wg, 1)
    	// 阻塞等待
    	wg.Wait()
    	fmt.Println("Main ends...")
    }
    func waitFunc(wg *sync.WaitGroup, num int) {
    	// 函數結束時告知 WaitGroup 自己已經結束
    	defer wg.Done()
    	time.Sleep(time.Duration(num) * time.Second)
    	fmt.Printf("Hello World from %v\n", num)
    }
    // 結果輸出:
    Main starts...
    Hello World from 1
    Hello World from 3
    Main ends...

    如果這里沒有 WaitGroup,主協程(main 函數)會直接跑到最后的 Main ends...,而沒有中間兩個 goroutine 的輸出,加了 WaitGroup 后,main 就會在 wg.Wait() 處阻塞等待兩個協程都結束后才繼續執行。

    上面我們看到的 WaitGroup 的三個方法:Wait()Add(int)Done() 也是 WaitGroup 對象僅有的三個方法。

    0.2 信號量(Semaphore)

    信號量(Semaphore)是一種用于實現多進程或多線程之間同步和互斥的機制,也是 WaitGroup 中所采用的技術。并且 WaitGroup 自身的同步原理,也與信號量很相似。

    由于翻譯問題,不熟悉的小伙伴經常將信號量(Semaphore)和信號(Signal)搞混,這倆實際上是兩個完全不同的東西。Semaphore 在英文中的本意是旗語,也就是航海領域的那個旗語,利用手旗或旗幟傳遞信號的溝通方式。在計算機領域,Semaphore,即信號量,在廣義上也可以理解為一種進程、線程間的通信方式,但它的主要作用,正如前面所說,是用于實現進程、線程間的同步和互斥。

    信號量本質上可以簡單理解為一個整型數,主要包含兩種操作:P(Proberen,測試)操作和 V(Verhogen,增加)操作。其中,P 操作會嘗試獲取一個信號量,如果信號量的值大于 0,則將信號量的值減 1 并繼續執行;否則,當前進程或線程就會被阻塞,直到有其他進程或線程釋放這個信號量為止。V 操作則是釋放一個信號量,將信號量的值加 1。

    可以把信號量看作是一種類似鎖的東西,P 操作相當于獲取鎖,而 V 操作相當于釋放鎖。由于信號量是一種操作系統級別的機制,通常由內核提供支持,因此我們不用擔心上述對信號量的操作本身會產生競態條件,相信內核能搞定這種東西。

    本文的重點不是信號量,因此不會過多展開關于信號量的技術細節,有興趣的小伙伴可以查閱相關資料。

    最后提一嘴技術之外的東西,Proberen 和 Verhogen 這倆單詞眼生吧?因為它們是荷蘭語,不是英語。為啥是荷蘭語嘞?因為發明信號量的人,是上古計算機大神,來自荷蘭的計算機先驅 Edsger W. Dijkstra 先生。嗯,對,就是那個 Dijkstra。

    1 WaitGroup 底層原理

    聲明:本文所用源碼均基于 Go 1.20.3 版本,不同版本 Go 的 WaitGroup 源碼可能略有不同,但設計思想基本是一致的。

    WaitGroup 相關源碼非常短,加上注釋和空行也只有 120 多行,它們全都在 src/sync/waitgroup.go 中。

    1.1 定義

    先來看 WaitGroup 的定義,這里我把源文件中的注釋都簡單翻譯了一下:

    // WaitGroup 等待一組 Goroutine 完成。
    // 主 Goroutine 調用 Add 方法設置要等待的 Goroutine 數量,
    // 然后每個 Goroutine 運行并在完成后調用 Done 方法。
    // 同時,可以使用 Wait 方法阻塞,直到所有 Goroutine 完成。
    //
    // WaitGroup 在第一次使用后不能被復制。
    //
    // 根據 Go 內存模型的術語,Done 調用“同步于”任何它解除阻塞的 Wait 調用的返回。
    type WaitGroup struct {
    	noCopy noCopy
    	state atomic.Uint64 // 高 32 位是計數器, 低 32 位是等待者數量(后文解釋)。
    	sema  uint32
    }

    WaitGroup 類型是一個結構體,它有三個私有成員,我們一個一個來看。

    1.1.1 noCopy

    首先是 noCopy,這個東西是為了告訴編譯器,WaitGroup 結構體對象不可復制,即 wg2 := wg 是非法的。之所以禁止復制,是為了防止可能發生的死鎖。但實際上如果我們對 WaitGroup 對象進行復制后,至少在 1.20 版本下,Go 的編譯器只是發出警告,沒有阻止編譯過程,我們依然可以編譯成功。警告的內容如下:

    assignment copies lock value to wg2: sync.WaitGroup contains sync.noCopy

    為什么編譯器沒有編譯失敗,我猜應該是 Go 官方想盡量減少編譯器對程序的干預,而更多地交給程序員自己去處理(此時 Rust 發出了一陣笑聲)。總之,我們在使用 WaitGroup 的過程中,不要去復制它就對了,不然非常容易產生死鎖(其實結構體注釋上也說了,WaitGroup 在第一次使用后不能被復制)。譬如我將文章開頭代碼中的 main 函數稍微改了改:

    func main() {
    	fmt.Println("Main starts...")
    	var wg sync.WaitGroup
    	// 2 指的是下面有兩個協程需要等待
    	wg.Add(1)
    	wg2 := wg
    	wg2.Add(1)
    	go waitFunc(&wg, 3)
    	go waitFunc(&wg2, 1)
    	// 阻塞等待
    	wg.Wait()
    	wg2.Wait()
    	fmt.Println("Main ends...")
    }
    // 輸出結果
    Main starts...
    Hello World from 1
    Hello World from 3
    fatal error: all goroutines are asleep - deadlock!
    goroutine 1 [semacquire]:
    sync.runtime_Semacquire(0xc000042060?)
            C:/Program Files/Go/src/runtime/sema.go:62 +0x27
    sync.(*WaitGroup).Wait(0xe76b28?)
            C:/Program Files/Go/src/sync/waitgroup.go:116 +0x4b
    main.main()
            D:/Codes/Golang/waitgroup/main.go:23 +0x139
    exit status 2

    為什么會這樣?因為 wg 已經 Add(1) 了,這時我們復制了 wg 給 wg2,并且是個淺拷貝,意味著 wg2 內實際上已經是 Add(1) 后的狀態了(state 成員保存的狀態,即它的值),此時我們再執行 wg2.Add(1),其實相當于執行了兩次 wg2.Add(1)。而后面 waitFunc() 中對 wg2 只進行了一次 Done() 釋放操作,main 函數在 wg2.Wait() 時就陷入了無限等待,即 all goroutines are asleep。等看了后面 Add()Done() 的原理后,再回頭來看這段死鎖的代碼,會更加清晰。

    那么這段代碼能既復制,又不死鎖嗎?當然可以,只需要把 wg2 := wg 提到 wg.Add(1) 前面即可。

    1.1.2 state atomic.Uint64

    stateWaitGroup 的核心,它是一個無符號的 64 位整型,并且用的是 atomic 包中的 Uint64,所以 state 本身是線程安全的。至于 atomic.Uint64 為什么能保證線程安全,因為它使用了 CompareAndSwap(CAS) 操作,而這個操作依賴于 CPU 提供的原子性指令,是 CPU 級的原子操作。

    state 的高 32 位是計數器(counter),低 32 位是等待者數量(waiters)。其中計數器其實就是 Add(int) 數量的總和,譬如 Add(1) 后再 Add(2),那么這個計數器就是 1 + 2 = 3;而等待數量就是現在有多少 goroutine 在執行 Wait() 等待 WaitGroup 被釋放。

    1.1.3 sema uint32

    這玩意兒就是信號量,它的用法我們到后文結合代碼再講。

    1.2 Add(delta int)

    首先是 Add(delta int) 方法。WaitGroup 所有三個方法都沒有返回值,并且只有 Add 擁有參數,整個設計可謂簡潔到了極點。

    Add 方法的第一句代碼是:

    if race.Enabled {
    	if delta < 0 {
    		// Synchronize decrements with Wait.
    		race.ReleaseMerge(unsafe.Pointer(wg))
    	}
    	race.Disable()
    	defer race.Enable()
    }

    race.Enabled 是判斷當前程序是否開啟了競態條件檢查,這個檢查是在編譯時需要我們手動指定的:go build -race main.go,默認情況下并不開啟,即 race.Enabled 在默認情況下就是 false。這段代碼里如果程序開啟了競態條件檢查,會將其關閉,最后再重新打開。其他有關 race 的細節本文不再討論,這對我們理解 WaitGroup 也沒有太大影響,將其考慮進去反而會增加我們理解 WaitGroup 核心機制的復雜度,因此后續代碼中也會忽略所有與 race 相關的部分。

    Add 方法整理后的代碼如下:

    // Add 方法將 delta 值加上計數器,delta 可以為負數。如果計數器變為 0,
    // 則所有在 Wait 上阻塞的 Goroutine 都會被釋放。
    // 如果計數器變為負數,則 Add 方法會 panic。
    //
    // 注意:當計數器為 0 時調用 delta 值為正數的 Add 方法必須在 Wait 方法之前執行。
    // 而 delta 值為負數或者 delta 值為正數但計數器大于 0 時,則可以在任何時間點執行。
    // 通常情況下,這意味著應該在創建 Goroutine 或其他等待事件的語句之前執行 Add 方法。
    // 如果一個 WaitGroup 用于等待多組獨立的事件,
    // 那么必須在所有先前的 Wait 調用返回之后再進行新的 Add 調用。
    // 詳見 WaitGroup 示例代碼。
    func (wg *WaitGroup) Add(delta int) {
    	// 將 int32 的 delta 變成 unint64 后左移 32 位再與 state 累加。
    	// 相當于將 delta 與 state 的高 32 位累加。
    	state := wg.state.Add(uint64(delta) << 32)
    	// 高 32 位,就是 counter,計數器
    	v := int32(state >> 32)
    	// 低 32 位,就是 waiters,等待者數量
    	w := uint32(state)
    	// 計數器為負數時直接 panic
    	if v < 0 {
    		panic("sync: negative WaitGroup counter")
    	}
    	// 當 Wait 和 Add 并發執行時,會有概率觸發下面的 panic
    	if w != 0 && delta > 0 && v == int32(delta) {
    		panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    	}
    	// 如果計數器大于 0,或者沒有任何等待者,即沒有任何 goroutine 在 Wait(),那么就直接返回
    	if v > 0 || w == 0 {
    		return
    	}
    	// 當 waiters > 0 時,這個 Goroutine 將計數器設置為 0。
    	// 現在不可能有對狀態的并發修改:
    	// - Add 方法不能與 Wait 方法同時執行,
    	// - Wait 不會在看到計數器為 0 時增加等待者。
    	// 仍然需要進行簡單的健全性檢查來檢測 WaitGroup 的誤用情況。
    	if wg.state.Load() != state {
    		panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    	}
    	// 重置 state 為 0
    	wg.state.Store(0)
    	// 喚醒所有等待者
    	for ; w != 0; w-- {
    		// 使用信號量控制喚醒等待者
    		runtime_Semrelease(&wg.sema, false, 0)
    	}
    }

    這里我將原代碼中的注釋翻譯成了中文,并且自己在每句代碼前也都加了注釋。

    一開始,方法將參數 delta 變成 uint64 后左移 32 位,和 state 相加。因為 state 的高 32 位是這個 WaitGroup 的計數器,所以這里其實就是把計數器進行了累加操作:

    state := wg.state.Add(uint64(delta) << 32)

    接著,程序會分別取出已經累加后的計數器 v,和當前的等待者數量 w

    v := int32(state >> 32)
    w := uint32(state)

    然后是幾個判斷:

    // 計數器為負數時直接 panic
    if v < 0 {
    	panic("sync: negative WaitGroup counter")
    }
    // 當 Wait 和 Add 并發執行時,會有概率觸發下面的 panic
    if w != 0 && delta > 0 && v == int32(delta) {
    	panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    }
    // 如果計數器大于 0,或者沒有任何等待者,
    // 即沒有任何 goroutine 在 Wait(),那么就直接返回
    if v > 0 || w == 0 {
    	return
    }

    注釋已經比較清晰了,這里主要展開解釋一下第二個 ifif w != 0 && delta > 0 && v == int32(delta)

    • w != 0 意味著當前有 goroutine 在 Wait()

    • delta > 0 意味著 Add() 傳入的是正整數,也就是正常調用;

    • v == int32(delta) 意味著累加后的計數器等于傳入的 delta,這里最容易想到的符合這個等式的場景是:原計數器等于 0 時,也就是 wg 第一次使用,或前面的 Wait() 已經全部結束時。

    上述三個條件看上去有些沖突:w != 0 表示存在 Wait(),而 v == int32(delta) 按照分析應該不存在 Wait()。再往下分析,其實應該是 v 在獲取的時候不存在 Wait(),而 w 在獲取的時候存在 Wait()。會有這種可能嗎?會!就是并發的時候:當前 goroutine 獲取了 v,然后另一個 goroutine 立刻進行了 Wait(),接著本 goroutine 又獲取了 w,過程如下:

    Golang?WaitGroup底層原理是什么

    我們可以用下面這段代碼來復現這個 panic

    func main() {
    	var wg sync.WaitGroup
    	// 并發問題不易復現,所以循環多次
    	for i := 0; i < 100000; i++ {
    		go addDoneFunc(&wg)
    		go waitFunc(&wg)
    	}
    	wg.Wait()
    }
    func addDoneFunc(wg *sync.WaitGroup) {
    	wg.Add(1)
    	wg.Done()
    }
    func waitFunc(wg *sync.WaitGroup) {
    	wg.Wait()
    }
    // 輸出結果
    panic: sync: WaitGroup misuse: Add called concurrently with Wait
    goroutine 71350 [running]:
    sync.(*WaitGroup).Add(0x0?, 0xbf8aa5?)
            C:/Program Files/Go/src/sync/waitgroup.go:65 +0xce      
    main.addDoneFunc(0xc1cf66?, 0x0?)
            D:/Codes/Golang/waitgroup/main.go:19 +0x1e
    created by main.main
            D:/Codes/Golang/waitgroup/main.go:11 +0x8f
    exit status 2

    這段代碼可能要多運行幾次才會看到上述效果,因為這種并發操作在整個 WaitGroup 的生命周期中會造成好幾種 panic,包括 Wait() 方法中的。

    因此,我們在使用 WaitGroup 的時候應當注意一點:不要在被調用的 goroutine 內部使用 Add,而應當在外面使用,也就是:

    // 正確
    wg.Add(1)
    go func(wg *sync.WaitGroup) {
    	defer wg.Done()
    }(&wg)
    wg.Wait()
    // 錯誤
    go func(wg *sync.WaitGroup) {
    	wg.Add(1)
    	defer wg.Done()
    }(&wg)
    wg.Wait()

    從而避免并發導致的異常。

    上面三個 if 都結束后,會再次對 state 的一致性進行判斷,防止并發異常:

    if wg.state.Load() != state {
    	panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    }

    這里 state.Load() 包括后面會出現的 Store() 都是 atomic.Uint64 的原子操作。

    根據前面代碼的邏輯,當程序運行到這里時,計數器一定為 0,而等待者則可能 >= 0,于是代碼會執行一次 wg.state.Store(0)state 設為 0,接著執行通知等待者結束等待的操作:

    wg.state.Store(0)
    for ; w != 0; w-- {
    	runtime_Semrelease(&wg.sema, false, 0)
    }

    好了,這里又是讓人迷惑的地方,我第一次看到這段代碼時產生了下面幾個疑問:

    • 為什么 Add 方法會有計數器為 0 的分支邏輯?計數器不是累加的嗎?

    • 為什么要在 Add 中通知等待者結束,不應該是 Done 方法嗎?

    • 那個 runtime_Semrelease(&wg.sema, false, 0) 為什么需要循環 w 次?

    一個一個來看。

    • 為什么 Add 方法會有計數器為 0 的分支邏輯?

    首先,按照前面代碼的邏輯,只有計數器 v 為 0 的時候,代碼才會走到最后兩句,而之所以為 0,是因為 Add(delta int) 的參數 delta 是一個 int,也就是說,delta 可以為負數!那什么時候會傳入負數進來呢?Done 的時候。我們去看 Done() 的代碼,會發現它非常簡單:

    // Done 給 WaitGroup 的計數器減 1。
    func (wg *WaitGroup) Done() {
    	wg.Add(-1)
    }

    所以,Done 操作或是我們手動給 Add 傳入負數時,就會進入到 Add 最后幾行邏輯,而 Done 本身也意味著當前 goroutine 的 WaitGroup 結束,需要同步給外部的 Wait 讓它不再阻塞。

    • 為什么要在 Add 中通知等待者結束,不應該是 Done 方法嗎?

    嗯,這個問題其實在上一個問題已經一起解決了,因為 Done() 實際上調用了 Add(-1)

    • 那個 runtime_Semrelease(&wg.sema, false, 0) 為什么需要循環 w 次?

    這個函數按照字面意思,就是釋放信號量。源碼在 src/sync/runtime.go 中,函數聲明如下:

    // Semrelease 函數用于原子地增加 *s 的值,
    // 并在有等待 Semacquire 函數被阻塞的協程時通知它們繼續執行。
    // 它旨在作為同步庫使用的簡單喚醒基元,不應直接使用。
    // 如果 handoff 參數為 true,則將 count 直接傳遞給第一個等待者。
    // skipframes 參數表示在跟蹤時要忽略的幀數,從 runtime_Semrelease 的調用者開始計數。
    func runtime_Semrelease(s *uint32, handoff bool, skipframes int)

    第一個參數就是信號量的值本身,釋放時會 +1。

    第二個參數 handoff 在我查閱了資料后,根據我的理解,應該是:當 handofffalse 時,僅正常喚醒其他等待的協程,但是不會立即調度被喚醒的協程;而當 handofftrue 時,會立刻調度被喚醒的協程。

    第三個參數 skipframes,看上去應當也和調度有關,但具體含義我不太確定,這里就不猜了(水平有限,見諒哈)。

    按照信號量本身的機制,這里釋放時會 +1,同理還存在一個信號量獲取函數 runtime_Semacquire(s *uint32) 會在信號量 > 0 時將信號量 -1,否則等待,它會在 Wait() 中被調用。這也是 runtime_Semrelease 需要循環 w 次的原因:因為那 wWait() 中會調用 runtime_Semacquire 并不斷將信號量 -1,也就是減了 w 次,所以兩個地方需要對沖一下嘛。

    信號量和 WaitGroup 的機制很像,但計數器又是反的,所以這里再多嘴補充幾句:

    信號量獲取時(runtime_Semacquire),其實就是在阻塞等待,P(Proberen,測試)操作,如果此時信號量 > 0,則獲取成功,并將信號量 -1,否則繼續等待;

    信號量釋放時(runtime_Semrelease),會把信號量 +1,也就是 V(Verhogen,增加)操作。

    1.2 Done()

    Done() 方法我們在上面已經看到過了:

    // Done 給 WaitGroup 的計數器減 1。
    func (wg *WaitGroup) Done() {
    	wg.Add(-1)
    }

    1.3 Wait()

    同樣的,這里我會把與 race 相關的代碼都刪掉:

    // Wait 會阻塞,直到計數器為 0。
    func (wg *WaitGroup) Wait() {
    	for {
    		state := wg.state.Load()
    		v := int32(state >> 32)  // 計數器
    		w := uint32(state)       // 等待者數量
    		if v == 0 {
    			// 計數器為 0,直接返回。
    			return
    		}
    		// 增加等待者數量
    		if wg.state.CompareAndSwap(state, state+1) {
    			// 獲取信號量
    			runtime_Semacquire(&wg.sema)
    			// 這里依然是為了防止并發問題
    			if wg.state.Load() != 0 {
    				panic("sync: WaitGroup is reused before previous Wait has returned")
    			}
    			return
    		}
    	}
    }

    Add 簡單多了,而且有了前面 Add 的長篇大論為基礎,Wait 的代碼看上去一目了然。

    當計數器為 0,即沒有任何 goroutine 調用 Add 時,直接調用 Wait,沒有任何意義,因此直接返回,也不操作信號量。

    最后 Wait 也有一個防止并發問題的判斷,而這個 panic 同樣可以用前面 Add 中的那段并發問題代碼復現,大家可以試試。

    Wait 中唯一不同的是,它用了一個無限循環 for{},為什么?這是因為,wg.state.CompareAndSwap(state, state+1) 這個原子操作因為并發等原因有可能失敗,此時就需要重新獲取 state,把整個過程再走一遍。而一旦操作成功,Wait 會在 runtime_Semacquire(&wg.sema) 處阻塞,直到 Done 操作將計數器減為 0,Add 中釋放了信號量。

    讀到這里,這篇“Golang WaitGroup底層原理是什么”文章已經介紹完畢,想要掌握這篇文章的知識點還需要大家自己動手實踐使用過才能領會,如果想了解更多相關內容的文章,歡迎關注億速云行業資訊頻道。

    向AI問一下細節

    免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

    AI

    会理县| 宁武县| 元氏县| 玉林市| 娱乐| 临沭县| 丹东市| 昭苏县| 长寿区| 当涂县| 册亨县| 邯郸县| 隆尧县| 武乡县| 临沂市| 石棉县| 环江| 中超| 武安市| 方山县| 固安县| 通辽市| 九龙城区| 延吉市| 米林县| 绥阳县| 南宁市| 布拖县| 海安县| 石家庄市| 永靖县| 南岸区| 七台河市| 和林格尔县| 普格县| 嘉兴市| 洪雅县| 巨鹿县| 安仁县| 股票| 宁国市|