“房間里的大象”暴露AI巨坑，AI視覺系統被夸噓過頭了？

http://blog.itpub.net/31545819/viewspace-2285058/

眾所周知，人工智能雖說是一門新技術，但已經有一段歷史了，如今沸騰起來的人工智能也只不過是經歷了數次寒冬碾壓出來的黃金期。

但是近期關于深度學習掀起的又一波“AI寒冬”又一次將人工智能推向了輿論口波，一項旨在解決“房間里大象”的新研究推動了這次AI的負面炒作。深度學習系統真的存在嚴重缺陷嗎？我們真的完全走錯了路嗎？

關于卷積神經網的最新研究主要集中在目標跟蹤器和檢測器上，它們是更通用的卷積網絡的專用版。與將照片分類為貓和狗的方法不同，目標檢測器需要對整個圖像進行處理，排除掉那些無關緊要的子區域，將檢測到的物體用矩形框框起來。

所有神經網絡目前尚未解決的一個大問題是對抗性圖像的存在。如果一個神經網正確的將照片分類為貓，那么，它就可能在極微的程度上改變圖像中的像素，使得圖像被分類成其他東西，例如狗，但這樣的變化非常的小，人們幾乎察覺不到。也就是說，敵對的形象看起來像一只貓，但它卻被分類成狗或者其他東西。這是一個很腦洞的想法，但我們可以把它進一步推進，創建所謂的通用對抗圖像，這可能會欺騙一系列的神經網絡，忽視其確切的架構或訓練。

上個月，來自約克大學和多倫多大學的兩名研究人員合作發表了一篇論文《   The Elephant in the Room   》（房間里的大象），在學界引起巨大反響，該論文揭露了利用神經網絡進行物體檢測的缺陷。他們將大象放在房間里創造了另一種對抗性形象。利用一個經過訓練的目標檢測器，顯示出一個標簽正確的場景。然后把一個意想不到的物體放到場景中（一個大象），結果發現，目標檢測器不僅沒有正確的顯示出大象，而且對目標物體的分類也是不正確的。

目標檢測器沒有檢測出大象，個人而言，我還沒有克服這樣一個事實。

是的，房間里有一頭大象，目標檢測器正在做人為的事情，而不是探討它，并且杯子也沒有被檢測出來。

但這足夠可以論證當前的人工智能視覺系統存在巨大缺陷。

引用Quanta最近的一篇文章：

“這是一項聰明而重要的研究，它提醒我們‘深度學習’并不深。”紐約大學神經學家Gary Marcus說到。

的確，深度學習并沒有那么深刻，但這并不能成為說服大多數讀者的理由。由于對人工智能的高估，人們對這項研究的反應是錯誤的，尤其是深度學習。我們還沒有實現人工大腦，我們的深層神經網絡與大腦相比還甚是微小。但是，我們不得不肯定它們在數據分析方面的能力，即便這個基層發生了變化，我們還是需要研究。

與大腦相比，深度學習并不深。這項研究相當于給眼睛和視神經看了一些圖片，然后驚訝地發現它竟然看不出來。

我們的神經網絡是未來人工智能的基石。深刻的神經網絡對世界沒有任何意義。它沒有內部的語言表達，使它判斷大象不在那里，因此它也不會再看大象第二眼。

目前我們的深度神經網絡只是一個統計分析器，如果你給它們一個統計異常，它們就會弄錯。這并不是引起嚴厲批評的理由，把它當成一個3歲的孩子，它已經做的很好了。這不是一個人工的孩子，而是一個真正的孩子，是一小塊孤立的“人造大腦”，里面有少量的模擬神經。

盡管如此，這項研究還是提出了一些非常現實的問題。畢竟，從統計學的角度看，一頭大象被分類錯誤并不奇怪，這只是統計異常。令大家意想不到的是，大象的出現能夠導致圖像其他區域的錯誤。

為什么會有互擾？

這讓我們回到了另一種對抗性的形象。似乎對抗性圖像不屬于網絡訓練集的統計分布，因為它們跟自然圖像不同。如果你發現被新添加到圖形中的物體被錯誤分類，它們通常是一種較規則的波段或常規噪音，完全不同于自然圖像中發生的事物。這種噪聲將圖像置于網絡訓練過的圖像集之外，因此錯誤分類就屬于情理之中了。

這如何適用于房間里的大象？

同樣的論點。大象被切割并粘貼到圖像中。編輯邊緣和背景變化的存在可能將圖像從自然圖像集移動到操作圖像集中，因此遇到的問題都是一樣的。

該論文的作者推測這確實是問題的一部分，但他們也提出了其他的可能性。尤其是，您可能認為，將大象放置在與錯誤分類的對象有一定距離的地方不會造成非位置性的問題，但這一預期沒有考慮到這樣一個事實，即目前神經網絡沒有適應性，它們必須經過訓練來檢測圖像中不同大小的物體，這就引入了非局部效應。

這項研究并沒有強調深度學習網絡夸大他們能力的事實。它強調的是，如果不了解正在發生的事情，人們就會誤判是目標檢測器異常的問題。我們需要繼續研究對抗性輸入到底是如何揭示神經網絡的實際工作原理的，真正的人工智能不會只涉及一個神經網絡，不管它有多深。