編| 李水青

智東西1月8日消息，今天，曠視科技公司宣布正式成立人工智能治理研究院，據稱該研究院旨在就全球人工智能治理的共性問題，與社會各界廣泛溝通、與專家學者們展開研究，從而推動人工智能的健康發展。

近年來，隨著AI開始加速產業化的同時，也在數據使用、隱私保護等方面帶來新的問題。智能音箱勸主人自殺、AI換臉軟件里的“霸王條款”、“監測頭環”校園爭議等事件層出不窮。

為此，曠視科技也同時對2019年全球十大AI治理事件進行了回溯，智東西將原文整理如下：

1、歐盟專利局拒絕AI發明專利申請

近日， 在英國薩里大學組織的一個多學科研究項目中，研究人員使用了一種名為DABUS的AI。在研究過程中，DABUS開創性提出了兩個獨特而有用的想法：第一個是固定飲料的新型裝置；第二個是幫助搜救小組找到目標的信號設備。

在研究人員替DABUS申報專利成果時，遭到了歐盟專利局的駁回，理由是歐盟專利申請中指定的發明者必須是人，而不是機器。薩里大學研究人員強烈反對這一決定，他們認為因沒有人類發明者而拒絕將所有權授予發明者，將成為阻礙“人類取得偉大成果的新時代”的重大障礙。”

正方觀點：應賦予AI“發明權“，以推動社會進步

反方觀點：AI只是工具，不應賦予其人的權利

2、人臉識別第一案：浙江教授狀告杭州野生動物世界

2019年，浙江理工大學特聘副教授郭兵購買了杭州野生動物世界年卡，支付了年卡卡費1360元。合同中承諾，持卡者可在該卡有效期一年內通過同時驗證年卡及指紋入園，可在該年度不限次數暢游。

同年10月17日，杭州野生動物世界通過短信的方式告知郭兵“園區年卡系統已升級為人臉識別入園，原指紋識別已取消，未注冊人臉識別的用戶將無法正常入園，同時也無法辦理退費”。郭兵認為，人臉識別等個人生物識別信息屬于個人敏感信息，一旦泄露、非法提供或者濫用，將極易危害消費者人身和財產安全。協商無果后，郭兵于2019年10月28日向杭州市富陽區人民法院提起了訴訟，目前杭州市富陽區人民法院已正式受理此案。

正方觀點：游客有權拒絕使用“刷臉”入園，以保護隱私

反方觀點：支持動物園啟用“刷臉”入園，保障安全

3、某智能音箱勸主人自殺

2019年，英格蘭唐卡斯特29歲護理人員丹妮·莫瑞特在做家務的過程中，決定借助某國外智能音箱查詢一些關于心臟的問題，而智能語音助手給出的答案是：“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進你的心臟。”

事情發生后，智能音箱開發者做出回應：“設備可能從任何人都可以自由編輯的維基百科上下載與心臟相關的惡性文章，并導致了此結果”。丹妮·莫瑞經過搜索認為沒有此類文章，同時智能語音助手也發出過瘆人的笑聲，并拒聽用戶指令。

正方觀點：AI勸人自殺有可能是AI威脅人類的開始

反方觀點：不應把AI和人類開的“玩笑”上升為AI威脅論

4、“監測頭環”進校園惹爭議

2019年11月，浙江一小學戴監控頭環的視頻引起廣泛的關注與爭議。在視頻中，孩子們頭上戴著號稱“腦機接口”的頭環，這些頭環宣稱可以記錄孩子們上課時的專注程度，生成數據與分數發送給老師和家長。

對此，頭環開發者回復，腦機接口技術是一種新興技術，報道中提到的“打分”，是班級平均專注力數值，而非網友猜測的每個學生專注力數值。但有不少網友認為此頭環是現代版的“頭懸梁錐刺股”，會讓讓學生產生逆反心理，并擔憂是否涉及侵犯未成年人隱私。

正方觀點：AI有助于提升課堂質量，應審慎發展，不能一棍子打死

反方觀點：提升課堂質量是教育機構的本職，不能以個人隱私作為交換

5、加州議會通過議案：禁止警方在執法記錄儀上使用面部識別技術

2019年9月，美國加利福尼亞州議會通過一項為期三年的議案，禁止州和地方執法機構在執法記錄儀上使用面部識別技術。如果州長加文·紐森簽字通過，議案將于2020年生效成為法律。

該議案若生效，將使加州成為美國禁止使用面部識別技術最大的州。包括俄勒岡州和新罕布什爾州在內的一些州也有類似的禁令。不過，也有執法團體反對該議案，他們認為面部識別技術在追蹤嫌疑人以及尋找失蹤兒童等很多方面都具有重要作用。州警察局長協會表示，該技術僅用于縮小嫌疑人范圍，而不是自動決定逮捕誰。

正方觀點：我們應該擁抱技術，加州多個地區正在恢復使用

反方觀點：人們有權保護個人隱私，拒絕使用該項技術

6、AI換臉應用引發隱私爭議

2019年8月，一款AI換臉軟件在社交媒體刷屏，用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。一經面世，便存在著頗多爭議點。在用戶協議上，存有很多陷阱，比如提到使用者的肖像權為“全球范圍內免費、不可撤、永久可轉授權”。而如果侵權了明星肖像，若對方提告，則最后責任都在用戶。

2019年11月底，國家網信辦、文旅部和廣電總局等三部門聯合發布了《網絡音視頻信息服務管理規定》，明確“利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的……應當及時采取相應的辟謠措施”等針對換臉技術的新規定。

正方觀點：換臉APP僅是娛樂應用，在規則內玩玩就好

反方觀點：個人生物識別信息屬于重要隱私，不該如此兒戲

7、自動駕駛安全事故頻出

2019年3月，50歲的杰里米·貝倫·班納駕駛電動車以每小時109公里的速度與一輛牽引拖車相撞而身亡，當時他正在使用的自動駕駛系統。這已經不是自動駕駛系統引發的第一起交通事故。雖然自動駕駛廠商曾多次表示，其自動駕駛系統是為了輔助司機，他們必須時刻注意并準備好接管車輛。但許多車主在選擇購買車時，是看中其宣傳具備的“自動駕駛”功能。在最新的審判中，廠商被免責，但他們仍舊修改了“自動駕駛”的宣傳策略。

正方觀點：自動駕駛技術的權責歸屬為生產方，他們應為此擔責

反方觀點：自動駕駛技術只是輔助工具，個人要有掌管車輛的能力

8、AI編寫假新聞足以以假亂真

2019年2月15日，AI研究機構OpenAI展示了一款軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。有人懷疑，在虛假信息正在蔓延并威脅全球科技產業的背景下，一個擅長制造假新聞的AI工具很難不被聲討。OpenAI如果所托非人，將很可能成為影響選民意愿的政治工具。

正方觀點：不能因噎廢食，人也會寫假新聞，應引導AI多面發展

反方觀點：AI規模化能力極強，應設置嚴格的行業門檻

9、斯坦福大學AI算法識別性取向準確率超過人類

2017年，斯坦福大學一項發表于《Personality and Social Psychology》的研究引發社會廣泛爭議。研究基于超過 35,000 張美國交友網站上男女的頭像圖片訓練，利用深度神經網絡從圖像中提取特征，使用大量數據讓計算機學會識別人們的性取向。

該項研究的爭議點在于，一旦這種技術推廣開來，夫妻一方會使用這種技術來調查自己是否被欺騙，青少年使用這種算法來識別自己的同齡人，而在針對某些特定群體的識別引發的爭議則更難以想象。

正方觀點：無論對于人類還是AI，“以貌取人”都不可取

反方觀點：AI“以貌取人”遵從數據規律，應該支持其研究

10、BBC發布10年后365種職業被淘汰概率：打字員、會計、保險位居前三

BBC基于劍橋大學研究者的數據體系，發布了關于未來最有可能被機器人所取代的365種職業。研究表示，在這365種職業中，最有可能被淘汰的就是電話推銷員，像這樣重復的工作更適合機器人來做，機器人并不會感到疲憊，煩躁。其次是打字員、會計、保險業務員等等，這些都是以服務為主，像這些行業無需技術，都是只要經過訓練就能輕易被掌握的技能。

也有學者對此不以為然。他們認為，縱觀歷史，科技的影響一直如此。人類的工作方式變了又變，并沒有永久地摧毀勞動力市場。

正方觀點：AI和以往的技術革新一樣，重塑職業的同時會解放生產力，一定會促進經濟發展

反方觀點：AI技術被少數人壟斷，重塑職業的同時將造成更大貧富差距，不利于經濟發展

結語：AI技術是一把雙刃劍

在產業AI化的過程中，一方面AI技術賦能各行各業能夠實現降本增效，另一方面，一些威脅個人和社會的問題也暴露出來。

技術是一把雙刃劍，AI技術是成為支配人類的工具還是解放人類的武器，取決于誰在用，怎么用。當隱私安全、商業侵蝕、種族歧視等負面影響越來越明顯時，企業不應對這些問題“掩耳盜鈴”，只有和社會各界一同攜手解決問題，才能促進AI技術產業化的健康發展。