曠視宣布成立AI治理研究院，並回溯了全球十大AI治理事件，引發關注。該文盤點了近幾年尤其是剛剛過去的2019年內，人工智能領域十件最具爭議和代表性的熱點事件。人工智能技術顯著幫助了社會生產效率的提高，同時也讓人類生活變得更加舒適便捷。但正如歷史上每一次顛覆性技術一樣，人工智能的出現，對於人類社會倫理道德、隱私安全等方方面面都提出了挑戰。

從1月份剛剛發生的歐盟拒絕AI申請專利、認為申請者“只能是人”，到全球關注的自動駕駛事故、智能音箱勸主人自殺事件、AI批量創作假新聞，以及中國人臉識別第一案等十大事件，都讓我們認識到在即將到來的2020年裡，AI治理的重要性。

針對文中提及的中國人臉識別第一案事件，中科院自動化研究所研究員、智源人工智能倫理與安全研究中心主任曾毅認為，基於實際行動提升人工智能服務方和應用方與用戶之間的信任關係是人工智能技術是否能夠更廣泛的造福於人類的前提。而對於AI換臉應用引發的隱私爭議，曾毅表示，工信部在4天內對相關企業的約談，要求自查整改並取得及時與積極的成效，是中國人工智能敏捷治理的典型案例。

而事實上，曠視所回溯的全球十大AI治理事件僅僅是AI治理亟待解決所呈現的現象，現象的背後，關係到人工智能的倫理與法律、權力與責任、發展與平等、隱私與安全問題，這些問題需要社會各界人士共同探討，尋求解決之道。

基於此，曠視成立人工智能治理研究院，期望各界對AI事件有理性的關注，並要針對事件背後問題做深度的研究，通過社會各界建設性的討論，才能最終將AI向善這件事付諸於實際的行動。

據了解，曠視在2019 年7 月已經推出《人工智能應用準則》，從正當性、人的監督、技術可靠性和安全性、公平和多樣性、問責和及時修正、數據安全與隱私保護六個維度，對人工智能正確有序發展作出明確規範，並於同年成立人工智能道德委員會，旨在與社會各界共同商討，促進AI良性、可持續發展。

2020年，作為下一個十年的起始之年，不僅將是產業AI多點開花的一年，同時也將是AI治理之年。

以下是曠視回溯的全球十大AI治理事件原文。

曠視AI治理研究院全球十大AI治理事件

引言

“人工智能也許會是人類的終結者”，聞名世界的理論物理學家霍金生前曾對人工智能技術抱有十分警惕的態度。

在過去的近十年，得益於算法、算力及通訊技術的提升，人工智能技術迎來了前所未有的發展機遇期。從理論到實踐、從實驗室走向產業化，人工智能技術在全球範圍內展開了一場集“產學研”為一體的比拼較量。

毋庸置疑的是，人工智能技術幫助社會生產效率顯著提高，同時也讓人類生活變得更加舒適便捷。但正如霍金所擔心的那樣，人工智能的出現，對於人類社會倫理道德、隱私安全等方方面面都提出了挑戰。

尤其是在最近幾年，伴隨著人工智能技術的大規模產業化應用，一些並無先例可循的人與人工智能矛盾逐漸浮出水面。擔憂和質疑之聲愈演愈烈，盡快探討出一種可預期的、可被約束的、行為向善的人工智能治理機制，成為了近人工智能時代的首要命題。

曠視作為推進AI產業化的先鋒，為了保證這項新技術的可持續發展，需要對這些問題“理性的關注，深度的研究，建設性的討論，堅持不懈的行動”。基於此，曠視正式成立人工智能治理研究院，旨在就全球人工智能治理的共性問題與社會各界廣泛溝通、與專家學者們展開研究，共同推動人工智能的健康發展。

此次回顧全球較有代表性的十大AI治理事件，就是希望通過這些事件來探討其背後折射的深層次問題,同各方一道探尋問題的解決之道。

十大事件

1. 歐盟專利局拒絕AI發明的專利申請

2020年1月，在英國薩里大學組織的一個多學科研究項目中，研究人員使用了一種名為DABUS的AI。在研究過程中，DABUS開創性提出了兩個獨特而有用的想法：第一個是固定飲料的新型裝置；第二個是幫助搜救小組找到目標的信號設備。

而在研究人員替DABUS申報專利成果時，卻遭到了歐盟專利局的駁回，“它們不符合歐盟專利同盟（EPC）的要求，即專利申請中指定的發明人必須是人，而不是機器。”

薩里大學的研究人員Ryan·Abbott強烈反對這一決定，“因沒有人類發明者而拒絕將所有權授予發明者，這不僅是一種過時的觀念，這還將成為阻礙’人類取得偉大成果的新時代’的重大障礙。”

Abbott同時表示，將基於AI的發明的專利所有權授予AI本身以外的任何一方都是不合適的。最好的方法是將AI視為專利的發明者，然後將AI的人類所有者視為授予專利的受讓人，有權做出專利方面的決定或從中受益。

2.智能音箱建議人類使用者自殺

2019年12月19日，英格蘭唐卡斯特29歲護理人員丹妮·莫瑞特在做家務的過程中，決定借助某國外智能音箱查詢一些關於心臟的問題，而智能語音助手給出的答案是：“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進你的心臟。”

事情發生後，智能音箱開發者做出回應：“設備可能從任何人都可以自由編輯的維基百科上下載與心臟相關的惡性文章，並導致了此結果”。不過事後，丹妮·莫瑞特專門搜索了“勸自己自殺”的那篇文章。經查詢，該篇文章裡面並沒有“建議自殺”等相關內容。在此之前，智能語音助手也發生過一些“詭異”的事件，比如，有些會時常發出瘆人的笑聲，還拒聽用戶指令。“那笑聲根本不是智能語音助手的聲音，聽起來就像是真人。

相關媒體評論道，人工智能其實也如同一個“嬰兒”一般，它所有的識別能力都來自於人類的灌輸和訓練，並沒有什麼自我判斷能力，如果常常接收的善意的、正確的交流，或許沒什麼毛病，但是如果在不經意間接收到了不太好的內容，或許發生以上令人毛骨悚然的事件機率會越來越大。

1. 聲稱可檢測腦電波的智能頭環遭質疑

2019年11月，浙江一小學戴監控頭環的視頻引起廣泛的關注與爭議。在視頻中，孩子們頭上戴著號稱“腦機接口”的頭環，這些頭環宣稱可以記錄孩子們上課時的專注程度，生成數據與分數發送給老師和家長。

對此，頭環開發者在聲明中回复，腦機接口技術是一種新興技術，會不容易被人理解。報導中提到的“打分”，是班級平均專注力數值，而非網友猜測的每個學生專注力數值。通過該數據整合形成的專注力報告也沒有發送給家長的功能。此外，該頭環不需長期佩戴，一周訓練一次即可。

頭環事件被曝光後，有網友稱其為“緊箍咒”，是現代版的“頭懸樑錐刺股”，並擔憂是否侵犯學生隱私，以及讓學生產生逆反心理。

相關媒體評論道，不是反對“黑科技”應用，只是反對其濫用。成年人想要通過戴環提升專注力，或者孩子主動要進行注意力訓練，無可厚非，這就相當於有個“運動手環”，能起到記錄作用。但要作為“禮物”送給孩子測走神，必須得慎之又慎。這其中有一條分界線：對“腦機接口”的使用應完全出於個人意願，相關數據也絕對地屬於個人。意識是絕對的私人領地，他人無權侵犯。

1. 美國加州禁止執法機構在執法記錄儀上使用面部識別技術

2019年09月13日，美國加利福尼亞州議會通過一項為期三年的議案，禁止州和地方執法機構在執法記錄儀上使用面部識別技術。該議案已被州長加文·紐森簽字通過，於2020年1月1日生效成為加州法律。

該議案生效後，使加州成為美國禁止使用面部識別技術最大的州。包括俄勒岡州和新罕布什爾州在內的一些州也有類似的禁令。目前，包括警察機構在內，舊金山和奧克蘭已經全面禁止面部識別技術的使用。

相關媒體評論道，該項議案反映了美國多方對面部識別的不滿情緒，有人認為，面部識別對公民自由構成了威脅。批評人士還把矛頭指向亞馬遜等公司。這些公司的面部識別技術在最近的研究中努力嘗試識別皮膚較黑者的性別，引發人們對不公正逮捕的擔憂。

但同時，這項議案遭到許多執法團體的反對，他們認為面部識別技術在追踪嫌疑人以及尋找失踪兒童等很多方面都具有重要作用。加州警察局長協會表示，該技術僅用於縮小嫌疑人范圍，而不是自動決定逮捕誰。加州警察局長協會主席羅恩·勞倫斯則表示：“這是未來的破案方式，我們需要擁抱而不是逃避技術。”

5.變臉App瞬間火爆，但引髮用戶隱私爭議

2019年8月30日晚，一款AI換臉軟件在社交媒體刷屏，用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。由於用戶瘋狂湧進，其服務器一晚上就燒掉了200多萬人民幣的運營費用。

該款軟件一經面世，便存在著頗多爭議點。在用戶協議上，該軟件存有很多陷阱，比如提到使用者的肖像權為“全球範圍內免費、不可撤、永久，可轉授權”。而如果侵權了明星肖像，若對方提告，則最後責任都在用戶。

同時，因為涉及到AI換臉算法，隱私安全向來飽受詬病。比如國外Reddit論壇上的Deepfakes社區就被關閉了，因為將當紅女明星的臉換到色情作品上。

不僅如此，現在一般App都用手機號+面部圖像註冊登錄。不少人擔心AI換臉軟件會被不法分子利用，通過技術合成完成刷臉支付等。

中華人民共和國《民法通則》第一百條規定：公民享有肖像權，未經本人同意，不得以營利為目的使用公民的肖像。前段時間，第十三屆全國人大常委會第十次會議審議通過的《民法典人格權編（草案）》中新增加了一條規定，即任何組織或者個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。雖然沒有明確說明，但這類信息技術手段理應包含AI換臉應用。

6.動物園未經許可收集個人生物識別信息被起訴

2019年4月27日，浙江理工大學的一位特聘教授購買了杭州野生動物世界年卡，支付了年卡卡費1360元。合同中承諾，持卡者可在該卡有效期一年內通過同時驗證年卡及指紋入園，可在該年度不限次數暢遊。

同年10月17日，杭州野生動物世界通過短信的方式告知這位教授“園區年卡系統已升級為人臉識別入園，原指紋識別已取消，未註冊人臉識別的用戶將無法正常入園” 。在教授前往實地驗證後，工作人員確認了短信屬實，並向其明確表示如果不進行人臉識別註冊將無法入園，也無法辦理退卡退費手續。

但這位教授認為，園區升級後的年卡系統進行人臉識別將收集他的面部特徵等個人生物識別信息，該類信息屬於個人敏感信息，一旦洩露、非法提供或者濫用，將極易危害包括原告在內的消費者人身和財產安全。協商無果後，教授於2019年10月28日向杭州市富陽區人民法院提起了訴訟，目前杭州市富陽區人民法院已正式受理此案。

相關媒體評論道，對公民而言，這一判決將至關重要。在網絡時代，個人信息安全面臨前所未有的巨大威脅。儘管從《刑法》到《侵權責任法》《消費者權益保護法》等法律，都就保護公民個人信息作出了規範，但隨著信息技術的飛速發展，總有些“灰色地帶”出現。因此，以司法的力量定分止爭，劃定人臉識別技術的應用邊界，將更好地保護技術洪流中的億萬民眾。

7.汽車自動駕駛系統失靈造成交通事故

2019年3月，一位駕駛員在駕駛電動汽車時，以每小時109公里的速度與一輛牽引拖車相撞身亡，當時他正在使用該電動汽車的自動駕駛系統。

無獨有偶，2018年12月10日，該品牌電動汽車在美國康涅狄格州95號州際公路上追尾了一輛停放在路邊的警車，事故發生時其自動駕駛系統處於開啟狀態。更早之前，該品牌電動汽車分別發生過撞上匝道隔離欄導致車輛起火、駕駛員遇難不幸遇難事件，其自動駕駛系統也保持在開啟狀態。

雖然汽車製造方曾多次表示，其自動駕駛系統是為了輔助司機，他們必須時刻注意並準備好接管車輛。但許多車主在選擇購買該品牌時，正是看中其宣傳具備的“自動駕駛”功能。

關於自動駕駛事故責任如何劃分，德國可謂走到了所有國家的前面。其最新修訂的《道路交通法》有明文規定，在行駛途中系統不可以完全取代駕駛人，須要有人類司機以隨時接管車輛，同時其最終責任主要落在駕駛人身上。究其原因，德國政府認為系統終歸不是主角，不能替代或優先於駕駛員作出決定，因此汽車製造商不會承擔直接責任，只承擔次要的產品責任。

8.人工智能寫作軟件可批量編寫假新聞

2019年2月15日，某AI研究機構展示了一款寫作軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。

該研究機構公佈了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎，軟件編寫出由7個段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。

相關媒體評論道，在虛假信息正在蔓延並威脅全球科技產業的背景下，一個擅長製造假新聞的“高材生”很難不被聲討。如果所託非人，AI將很可能成為影響選民意願的政治工具。可以想像，這種擅長合理遣詞造句的算法，能“按需”生成大量的仇恨語言和暴力言論。AI也能用來生成具有誤導性的新聞報導、自動生成垃圾郵件、偽造內容髮佈到社交媒體上等等。

Fast.AI 的聯合創始人Howard 稱，“值得警醒的是，我們目前擁有的技術已經能讓看起來合理，且與上下文相適應的文本充斥Twitter、電子郵件和網頁。這些假信息都將掩蓋其他言論，而且他們難於被過濾。”因為AI生成的文本都不是單純複製粘貼來的，而是AI 的即時生成，這導致負面文字無法被有效地追踪和清理。

9. AI 算法識別同性戀準確率超過人類惹爭議

2017年，斯坦福大學一項發表於《Personality and Social Psychology》的研究引發社會廣泛爭議。研究基於超過35,000張美國交友網站上男女的頭像圖片訓練，利用深度神經網絡從圖像中提取特徵，使用大量數據讓計算機學會識別人們的性取向。

在“識別同性戀”任務中，人類的判斷表現要低於算法，其準確率為在男性中61%，在女性中54%。當軟件識別被測試者的圖片增加到每人五張時，準確率則更是大幅提升：男性91%準確率，女性83%準確率。

該項研究的爭議點在於，一旦這種技術推廣開來，夫妻一方會使用這種技術來調查自己是否被欺騙，青少年使用這種算法來識別自己的同齡人，而在LGBT非法的國家裡會發生什麼則更加難以想像。

多倫多大學心理學教授NickRule表示，“如果我們開始以外表來判定人的好壞，那麼結果將會是災難性的”。人臉識別科技公司Kairos首席執行官BrianBrackeen認為：“如果有了足夠的數據，人工智能可以告訴你任何人的任何事，問題是對於社會來說，我們需要知道嗎？”

10. AI 將淘汰大量重複性勞動職業

BBC基於劍橋大學研究者的數據體系，發布了關於未來最有可能被機器人所取代的365種職業。

研究表示，在這365種職業中，最有可能被淘汰的就是電話推銷員，像這樣重複的工作更適合機器人來做，機器人並不會感到疲憊，煩躁。其次是打字員、會計、保險業務員等等，這些職業都是無需技術，以服務為主，只要經過訓練就能輕易被掌握。

研究認為，只需要熟練即可上任的工作，被取代的機率是最大的——工人及瓦匠、園丁、清潔工、司機、木匠、水管工這些都是“高危職業”。

李開復在達沃斯論壇接受專訪時曾表示，雖然AI會取代一部分人類的工作，但有四個領域人類的價值是無法替代的：需要手巧的、需要有創意的、需要有愛心的，還有是需要相對複雜戰略性跨領域思維的。

針對AI發展可能帶來的失業潮，李開復給出的解決方案是讓被替代的人類重新培訓從事有價值感的工作，同時企業、VC甚至政府也應該在提供更多工作崗位上有所作為。

語結

我們必須承認，人工智能技術正在改變世界，更在重塑著人類社會。

社會熱點爭議事件的背後，是全人類所必鬚麵對的重大議題——人工智能新時代倫理與法律的本質討論，以及由此衍生出的經濟發展與社會公平、權益分配與追責機制、人身安全與隱私保護四大重點板塊。

語音助手“殺人”、AI製造假新聞，本質上是新生事物對於傳統倫理與法律的挑戰；同性戀檢測、“未來被淘汰職業”涉及到社會發展與人類平權的矛盾問題；自動駕駛事故頻出問責難，是呼喚新形勢下權責機制認定；而時下人們最最關心的，則是諸如監測頭環、AI換臉、杭州人臉識別第一案的人工智能時代下安全與隱私討論。有關歐盟專利局裁定與加州立法，我們也看到了上層建築在迎接人工智能社會到來的初步探索與判斷。

人工智能的發展和應用引發了不少爭議，並時常見諸媒體。這當中，很多問題是前所未有的，或者未曾預料的。人工智能科學家面臨的道德挑戰和對人工智能的廣泛討論是全球性的，並不局限於某個國家或企業。作為人工智能行業的領頭雁，曠視清楚地認識到肩上的重任。

誠然，距離人類社會能夠構建出一套完美的人工智能治理規則還為時尚早。但是，衝突日漸緊迫、人工智能發展奇點隨時可能到來，這要求政府、企業、學界和公民社會幾方積極對話，共同形成現實可行的改進機制，以應對全面人工智能時代的到來。

從鑽木取火到計算機時代，人類一直在接受科技、制約科技，最終掌控科技。儘管走過不少的彎路，但科技的力量加之良善的內心，終究讓人類不再茹毛飲血，發展到如今的文明程度。

科技是一種力量，為善是一種選擇，針對人工智能治理就是新時代的“馭火之術”。我們理應悅納人工智能帶給人的便捷與舒適，也應努力消弭人工智能帶給人的不適與衝突。而這一切的努力，終將改變未來人類社會的樣貌，人工智能發展的成果也終將回饋人類自身。