CNN與RNN有哪些區別

本篇內容主要講解“CNN與RNN有哪些區別”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“CNN與RNN有哪些區別”吧!

一、CNN與RNN對比

1. CNN卷積神經網絡與RNN遞歸神經網絡直觀圖

2. 相同點：

• 傳統神經網絡的擴展。

• 前向計算產生結果，反向計算模型更新。

• 每層神經網絡橫向可以多個神經元共存,縱向可以有多層神經網絡連接。

3. 不同點

• CNN空間擴展，神經元與特征卷積;RNN時間擴展，神經元與多個時間輸出計算

• RNN可以用于描述時間上連續狀態的輸出，有記憶功能，CNN用于靜態輸出

•  CNN高級100+深度，RNN深度有限

二、CNN+RNN組合方式

1. CNN 特征提取，用于RNN語句生成圖片標注。

2. RNN特征提取用于CNN內容分類視頻分類。

3. CNN特征提取用于對話問答圖片問答。

三、具體應用

1. 圖片標注

基本思路：

• 目標是產生標注的語句，是一個語句生成的任務，LSTM?

• 描述的對象大量圖像信息，圖像信息表達，CNN?

CNN網絡中全連接層特征描述圖片，特征與LSTM輸入結合。

具體步驟：

(1) 模型設計-特征提取

全連接層特征用來描述原圖片

LSTM輸入：word+圖片特征;輸出下一word。

(2) 模型設計-數據準備

• 圖片CNN特征提取

• 圖片標注生成Word2Vect 向量

• 生成訓練數據：圖片特征+第n單詞向量：第n+1單詞向量。

(3) 模型訓練：

• 運用遷移學習，CNN特征，語句特征應用已有模型

• 最終的輸出模型是LSTM，訓練過程的參數設定：梯度上限(gradient clipping),  學習率調整(adaptivelearning)

• 訓練時間很長。

(4) 模型運行：

• CNN特征提取

• CNN 特征+語句開頭，單詞逐個預測

2. 視頻行為識別 ：

視頻中在發 生什么?

常用方法總結：

(1) RNN用于CNN特征融合：

• CNN 特征提取

• LSTM判斷

• 多次識別結果分析。

不同的特征不同輸出。

或者：所有特征作為一個輸出。

(2) RNN用于CNN特征篩選+融合：

• 并不是所有的視頻 圖像包含確定分類信息

• RNN用于確定哪些frame 是有用的

• 對有用的圖像特征 融合。

(3) RNN用于目標檢測：

• CNN直接產生目標候選區

• LSTM對產生候選區融合(相鄰時刻位置近 似)

• 確定最終的精確位置。

(4) 多種模型綜合：應用中，為了產生***結果，多采用多模型ensemble形式。

到此，相信大家對“CNN與RNN有哪些區別”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！