亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

發布時間:2020-08-10 22:13:42 來源:ITPUB博客 閱讀:142 作者:naojiti 欄目:互聯網科技

上周,AI圈最大的事情,沒有之一,就是圖靈獎,終于終于,終于頒給了深度學習三巨頭。

關于Geoffrey Hinton和他的兩位學生Yoshua Bengio、Yann LeCun的故事,在消息出來后的幾天里,理所當然完成了刷屏。

即使AI從業者和愛好者基本已經對這三位的事跡耳熟能詳,但他們“高舉著火焰,沖過了最黑暗的時代”的英雄主義情結,還是能夠輕易讓遠離AI世界的人們動容。

“三巨頭”和深度學習的經歷,事實上是一幕從學術邊緣開始,在產業狂歡中自證,再回頭征服主流學術界的故事。起伏線索簡直比好萊塢大片還要好萊塢。

然而現實人生和電影最大的區別或許在于,電影可以在高潮處戛然而止,留給觀眾意味深長的壯美。但生活還要繼續,日子還得過,AI還得發展。深度學習并不會因為圖靈獎的到來而畫上圓滿的句號。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

如果說三巨頭在全世界都不相信深度學習時的執拗,最終換來了圖靈獎和一句句“泰斗”的贊美聲;那么我們今天更應該留意的,或許是在深度學習如日中天的現在,三巨頭又在忙活著什么?他們現在所忙的,是不是又映射著AI的未來?

咱們不妨換個角度,不說他們可歌可泣的當年,而是聊聊三巨頭的現在。

需要注意的是,這里并不打算把三人及團隊的每一篇論文都整理出來,而是希望從他們在AI爆發之際的選擇,讀出些許關于深度學習未來走勢與先天不足的底層規律。

Yann LeCun:產學候鳥與AI圈魯迅

三巨頭中最頻繁活躍在大眾視線里的,是Yann LeCun。

為什么很多不認識Hinton的人也認識Yann LeCun?這個AI界的未解之謎有很多解釋。

不靠譜的解釋包括,Yann LeCun這個名字非常適合寫成楊麗坤,所以好記。再比如說他的招牌式笑容很容易讓人覺得AI沒那么枯燥。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

而靠譜的解釋是,Yann LeCun是三人中進入產業世界程度最深的那一位,甚至一度被視作AI科學家走向商業世界的代表人物。

2013年,Yann LeCun突然加入Facebook是一件非常有爆炸力的事。大家既不理解Facebook要AI科學家干嘛,也不明白Yann LeCun去一個社交媒體做什么。

來到Facebook之后,Yann LeCun一手創立了FAIR。這不是個律師事務所,而是Facebook人工智能實驗室。

必須要承認,作為FAIR一把手的Yann LeCun,在那幾年間是有不少作為的。比如大幅度提升了Facebook的自動化運營能力,提高了廣告等Facebook生命線的智能化程度。而另一方面,充滿理想主義精神和學者氣息的Yann LeCun還把FAIR搞成了硅谷最有烏托邦味道的實驗室之一。

在Facebook,FAIR的專家們關注那些天馬行空的前瞻性技術,以及AI如何在未來造福全人類。在扎克伯格的默許與支持下,FAIR的紅火甚至一度被認為是硅谷的工程師文化要向科學家文化交槍。

此外,Yann LeCun個人魅力也成為Facebook快速招到頂級科學家的利器,5年中,FAIR擴大到6個辦公地點,有近100名研究員。與吳恩達、李飛飛并列,Yann LeCun也被稱為由學校到企業的三位AI明星之一。

但隨著團隊規模的不斷擴大,Yann LeCun作為理想派科學家,逐漸暴露出了團隊管理能力的不足。加上2017年Facebook風雨飄搖,在整體業務改革之后,業務線開始向FAIR索取更多直接的、有助于提升業務質量或者變現能力的技術——而這并非Yann LeCun所愿與所長。

始終保留著紐約大學教職的Yann LeCun,在2018年1月宣布辭去了FAIR負責人的職務,轉向幕后擔任首席科學家。而這也被外界解讀為一個信號:似乎和吳恩達、李飛飛一樣,頂級科學家真的不那么容易在大企業高管的位置上長治久安。

而在產業的探索之外,Yann LeCun的另一個人設,堪稱AI圈里的魯迅——路見不平一聲twitter,該罵你時候絕不休息。

不少人感覺Yann LeCun有點過于“好作驚人語”,但其實要看到更大的背景在于,今天圍繞著深度學習到底是什么,未來會怎么發展,以及AI有沒有用等一系列問題,滋生出了無盡的爭議。

而作為AI行內最大的明星之一,Yann LeCun似乎也在某種程度上有義務出來正本清源。

讓咱們回顧一下讓Yann LeCun啟動開懟模式的三件事:

1、對著名的人形機器人,全球首位“機器公民“索菲亞。Yann LeCun怒斥其為 “徹頭徹尾的騙局”“完全是胡說八道”。在Yann LeCun看來,所謂索菲亞不過是一具放錄音的模型而已,對它的“物體崇拜”會讓人們覺得AI就是在變戲法。真正的AI想要達到嬰兒甚至動物的智商,還要走很遠的路。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

2、硅谷鋼鐵俠馬斯克,近兩年的愛好是到處說AI就要毀滅人類了。Yann LeCun認為這種說法非常不負責任。在他看來,馬斯克就是跟一些樂觀派的科學家聊天,又回家看了一些想象成分居多的書,然后就產生了《終結者》馬上要實現的想法。加上眾所周知馬斯克總想拯救人類,最后導致了我們聽到的那些聲音。而在Yann LeCun看來,科學家是知道那種強AI不太可能在幾年內實現的,馬斯克的言論是在散布恐慌。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

3、去年,一位計算機視覺專家Filip Piekniewski連續發表了《深度學習已死》之類的“雄文”,高唱深度學習泡沫要破。Yann LeCun則馬上開啟了回懟模式,直言作者“非常無知”,指出這位作者首先沒有看到學術和產業界的現實,其次用一些無關的證據強行證明AI“寒冬來了”的結論。比如作者提到AI藥丸,一大證據是AI科學家發twitter少了——氣的Yann LeCun趕緊發了一堆twitter。

總結一下,會發現Yann LeCun開懟的主要是三種聲音:假AI、AI威脅論,AI寒冬論。

其實環顧左右,這三種論調是不是也飄散于我們身邊呢?

Yoshua Bengio:保衛象牙塔,鎮守加拿大

說了最高調的,再說說最低調的Yoshua Bengio。

之所以說他低調,是因為Yoshua Bengio可說是三巨頭中最不愿意探索產業世界的一位。他在必然出現的重金誘惑面前,也沒有加入那幾家我們耳熟能詳的科技巨頭,而是選擇繼續留在蒙特利爾大學的象牙塔里,享受著加拿大的好山好水。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

然而隨著自己發明的深度學習越來越火,Yoshua Bengio發現事情并不簡單。科技巨頭和投資人開始瘋狂向學校搶人。深度學習方向的博士變成了炙手可熱的香餑餑,直到Yoshua Bengio發現,他還沒畢業的博士都已經被饑渴的科技公司瓜分干凈。這位科學家決心要保衛象牙塔的純凈。

他的辦法是,自己開一家公司……

咳咳,事實上,Yoshua Bengio是在幾位合伙人的勸說下,決定共同建立一個新型的產學一體化機構。我們知道AI界有著名的OpenAI,專注無不商業目標的開源項目,讓科學家能在企業完成自己的夢想。

而Yoshua Bengio與合伙人聯合創立的Element AI,則反其道而行之。它致力于讓AI科學家們可以直接參與商業項目,獲取相關回報,但同時能夠保留教職——比如每周只用抽出幾個小時來來Element AI干活,大家一起做做項目賺賺外快就行了。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

這種有點像AI科學家在線兼職的模式,可以有效解決一個問題:創業企業和傳統企業,根本無力與科技巨頭爭搶AI人才,但他們卻實打實地需要AI人才來幫忙。這樣一種模式可謂兩全其美。

很快,Element AI就獲得了微軟的投資,現在在深入各行業定制AI解決方案之外,也開始與大公司的聯合科研,以及對優質AI項目進行投資和技術幫助。而對于客戶來說,Yoshua Bengio本人就是商業合作上的金字招牌。

Yoshua Bengio的另一個工作重心,是學校里的蒙特利爾學習算法研究所(MILA)。MILA和Element AI一學一產,構成了蒙特利爾AI產業的雙核驅動。今天,加拿大AI的快速發展,以及蒙特利爾被稱為AI時代的硅谷,都與Yoshua Bengio的工作緊密相關。

嗯,至少目前來看,這位象牙塔守護者,加拿大AI之星,還是比較好地完成了任務。

Yoshua Bengio還有一項比較出名的行動,是在AI社會責任與公益領域廣泛擔當呼吁者。比如他帶頭反對谷歌的軍方項目,呼吁終止AI武器化。并且積極推動關注AI中的歧視與不公平問題。

假如給Yoshua Bengio近年來的工作打上三個標簽,那就是:學術的,公益的,加拿大的……

Geoffrey Hinton:懷疑者,依舊懷疑

與兩位50多歲的學生相比,已經72歲的老師Hinton,似乎應該閑下來,享受“AI教父“的尊名,指導指導學生,籌劃一下傳記。

然而事實并非如此,Geoffrey Hinton今天依舊在保持高強度的工作。被腰間盤疾病困擾的他,甚至必須要站著完成所有研究。與兩位學生和大部分功成名就的同行相比,Hinton更像是工作在AI一線的那一個。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

簡單來說,那個又倔又橫的小伙子,如今變成了個又倔又橫的老頭。

曾經在一次采訪中,Geoffrey Hinton被問到為什么能在幾十年的不被重視中堅持下來,他的回答非常酷也非常Hinton。他說:

“他們都錯了。”

直到今天,Hinton還是認為有可能所有人都錯了,包括他自己。

1986年,Hinton發表了《Learning representations by back-propagation errors》,這是Hinton一生的代表作之一,標志著反向傳播算法被引進深度學習,今天來看有著跨時代的意義。

然而Hinton在近兩年卻頻頻表示,反向傳播有可能存在這巨大的缺陷。他不但自己嘗試了多種方式突破它,還將大量相關研究綜合起來,寫論文對比如何擺脫反向傳播的窠臼——直到現在,他還沒有超越自己,但并不代表以后不能。

Geoffrey Hinton是一個徹頭徹尾的懷疑者,這點并沒有因為他變成“泰斗”而改變。

在產業世界,Hinton的主要工作在谷歌大腦。近兩年,TensorFlow的簡化升級,谷歌大腦的AI能力拓展,背后都有Hinton與團隊的身影。

而作為“教父”一樣的存在,Hinton更被人關注的是在AI學術領域不斷提出的顛覆性觀點。恰好這又是一個樂于顛覆自己和其他人工作的人。

2017年年底,Hinton發表了名為膠囊網絡Capsule Networks的方案,被廣泛認為將改寫深度學習的發展軌跡。

膠囊網絡所針對的,是卷積神經網絡的操作模式。傳統的深度學習算法中,每一層神經網絡必須做同樣的卷積運算。而膠囊網絡則認為,不同的神經元可以攜帶不同屬性,這就像人腦中的不同區域負責不同的工作。

這種將深度學習進行稀疏激活的顛覆式方案,目前已經被證明可以在圖像識別領域達成創新。不少人相信,膠囊網絡未來會成為AI可解釋、AI被賦予常識的關鍵技術。

近幾年,Hinton帶來的另一個顛覆,是在暗知識提取dark knowledge extraction領域不間斷的工作。一般來說,深度學習獲取抽象特征,是建立在龐大的數據運算基礎上的。而這會導致AI必須消耗大量的數據和算力來反復完成訓練。而暗知識提取,或者叫知識蒸餾,則致力于讓智能體之間可以提取隱藏的知識,把一部分知識留存到子深度學習系統,最終達成智能體擺脫龐大的算力與數據渴求,觸及相對先天的“智能”。

可以看到,Hinton在今天依舊那么硬核。很多在AI世界看似常識的東西,AI之父卻壓根不相信它,并且在反復挑戰。

AI走到頭了嗎?深度學習是最終解法嗎?這老頭一輩子從來沒相信過大多數人的判斷。

三巨頭的今天:深度學習,從1到很多

假如說,三巨頭高舉火把,四下無人的那些年,是深度學習從0到1的時代。

那么今天全世界的深度學習熱, 毫無疑問標志著深度學習開始從1到N。然而從三巨頭今天的工作來看,它也僅僅才到1而已。

昨日種種已得獎,那深度學習三巨頭今天在忙什么?

不知道大家注意到沒有,三巨頭今天主要關注的方向,恰恰對應著以深度學習為代表的這一次AI復興,所攜帶的先天不足,以及后天激發的問題。把三巨頭的工作強行合并,可以看到這樣幾個方向:

1、AI到底是空談還是事實?解決這個問題,必須把深度學習扔到產業熔爐當中,在算力、數據和應用場景里,檢驗深度學習到底能干什么。而這也是大量AI科學家必須去企業的邏輯之一。

2、AI火了之后,各種亂七八糟的事情一定會出來飛舞,需要有人把火車拉回軌道。Yann LeCun在社交媒體上四面開火就是因為這個。索菲亞的把戲、馬斯克的AI威脅論,以及“AI寒冬又來了”,這幾個說法今天在中國一定有大批擁護者。不難看出問題還是挺尖銳的。

3、AI的人才匹配與平衡問題。這輪AI復興的一個特征,是高度的產學一體化,導致學術人才可以直接與應用打通。然而學術人才如何在產業誘惑面前保持學術追求,產業如何在巨頭爭搶下獲得AI人才幫助,這個問題在中國同樣存在。

4、深度學習是把雙刃劍,軍事化、歧視與不公、因素安全等問題隨之產生。AI的社會責任,是一個刻不容緩的矛盾。

5、深度學習,不是終點。反向傳播,多層神經網絡等等技術模式構成了我們習以為常的那個“AI”。但是深度學習依舊有大量問題存在,比如黑箱性,遷移能力差,高消耗等等。我們是把今天的AI當成原教旨,還是繼續挑戰,尋找更上層的終點?這點Hinton這位“深度學習之父”真是帶了個好頭。

功績當然偉大,問題還有一堆。今天,三巨頭還在工作,他們在為他們的造物負責。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

九江市| 嘉兴市| 永靖县| 竹山县| 紫阳县| 潜山县| 永川市| 宁乡县| 缙云县| 台东县| 富顺县| 冀州市| 会东县| 门头沟区| 澎湖县| 图们市| 宣武区| 西安市| 教育| 布拖县| 玉龙| 成安县| 锡林郭勒盟| 商都县| 新沂市| 固安县| 鄯善县| 仁寿县| 贵港市| 清流县| 高平市| 承德县| 绿春县| 平塘县| 南京市| 靖安县| 建平县| 隆安县| 承德市| 定安县| 吉林省|