清華大學馮象教授：機器人律師，機器人醫生，然後…… | 律新社在現場

人類最強棋手柯潔敗給阿法狗，意味著一個「可怕」的現實——比人類「聰明」的機器已經出現。

智力活動的意義被顛覆，人工智慧被用於戰爭，人類如何從社會制度和法律規制等方面處理人機關係……人工智慧給人類社會帶來了空前的挑戰。

2017年6月8日，清華大學梅汝璈講席馮象教授，在上海華東師範大學做了題為「機器人律師，機器人醫生，然後……」的講座，吸引百餘名師生現場聆聽。本次講座是2017年「雙百活動」暨「上海法學講壇」第五講，也是華東師範大學人文社科「知名學者學術講座」第11場。講座由上海市法學會、華東師範大學法學院及社科處共同主辦。上海市法學會秘書長毛堅平到場致辭。

律新社在現場第一時間獨家分享了講座的精彩內容，現將講座內容整理髮布，以饗大眾。

清華大學梅汝璈講席馮象教授

阿法狗（AlphaGo）

阿法狗又來了。和上次對戰李世石不一樣，這一回，幾乎沒有人認為人類能夠獲勝。但柯潔已經表現得非常好，阿法狗團隊評價柯潔幾乎是下出了人類最完美的棋。但就像聶衛平說的，再完美也不過是人類的棋，人工智慧的棋我們現在已經很難理解。

考試機器

2017年，兩台人工智慧機器「參加」聯考，做的是數學卷。其中一台獲得105分（150分滿分）只能說表現比較一般。但是，另外一台與6個往年的聯考狀元在封閉的環境里同時做題，結果，機器得分只比6人平均分少一分。

立案機器

2016年，最高人民法院嘗試用機器人立案。據說，實踐的結果是立案機器人的錯誤率遠低於人類。近幾年，法院內部案多人少的問題尚未完全解決，但在可見的未來，機器人可能很快就能分擔法院的一部分工作。

無人汽車

當前，無人汽車技術已經比較成熟。但無人汽車需要在一個智能化的交通網路中運行，這一點目前尚難達到。但不難想象的是，未來，人工駕駛的汽車才是智能交通網路中最危險的「稀罕物」。政府或許會在郊區專門開闢「駕駛樂園」，供喜歡駕駛的人「過把癮」。

人類如何應對人工智慧在未來高度發達后可能出現的窘境？馮象教授提到了這樣一個思想實驗——「圍棋星球」。

假設有這麼一顆「圍棋星球」，在這個星球上，除了圍棋棋手，沒有任何為人所稱道的職業，其他所有的生產都是為下棋服務的。

在這個星球上，人類最高的理想就是當一名職業棋手。所有人從出生開始就要接觸並學習圍棋，並以之為終生追求。

那麼，假設這個星球上人工智慧也高速發展，人類也造出了阿法狗這樣的人工智慧，也舉行了人機之間的圍棋比賽，並且比賽結果也和地球上一樣，人類輸給了機器。

請問，這個星球要怎麼處理人工智慧的問題？

對地球上的人類來講，圍棋只是一種智力運動。但在「圍棋星球」上，圍棋是人類的最高理想。如果人工智慧超越了人類，就會導致一種非常尷尬的境地。

這樣的社會將面臨著巨大的挑戰：人類如何決定圍棋的未來？

柯潔對戰阿法狗時陷入苦思

日本圍棋大師藤澤秀行曾說過一句話，「棋道一百，只知其七。」過去我們以為這句話是一種藝術表達，是為了表現棋道的高深。

但是，今天阿法狗讓我們發現人類真的只知道7%。所以柯潔比賽完后非常難過，他再也無法知道自己到底對圍棋了解、掌握到了什麼程度。也就是說，圍棋作為一門知識、技藝、藝術或藝術理想，人類無法知道自己真正掌握了多少。

如果阿法狗團隊公布了機器人與機器人對弈的50盤棋局，很可能我們人類已經看不大懂。 當年，卡斯帕羅夫和「深藍」決戰國際象棋。前者輸掉比賽之後，IBM將「深藍」雪藏。而現在，人工智慧不斷發展，一些國際大賽已經離不開人工智慧。

在一些賽製為「人機搭配」的大賽中，就出現了一個很有意思的現象：某場比賽中，所有最優秀的棋手都被淘汰了，最終獲勝是兩個小夥子。論棋藝，這兩個人絕對不是最好的，但他們最會「擺弄」機器，所以最終勝出。

這就反應出一個問題：一旦人工智慧超越了人類，圍棋比賽的意義就被完全顛覆。

拿到冠軍的人類不是最會下棋的，只是最懂機器。就好比奧林匹克競賽中所有的選手都可以吃藥，最後比的是誰的葯更先進而已，奧林匹克也失去了意義。

所以，「圍棋星球」上的人類必須做出選擇——人類到底要不要人工智慧。

如果決定是「要」，那麼人類存在於這個星球上的意義是什麼？整個星球的方方面面都會被顛覆。

一

雖然目前地球上的行業生態比較豐富，圍棋只是萬千人類智力活動中的一種，但類似於「圍棋星球」的挑戰也並非不可能出現。

馮象教授觀察到，在國內，法律界的人士比較保守，不太相信人工智慧會造成很大挑戰。

但在一些行業里，人工智慧已經顯露了其巨大的「威力」，帶來了一些難以解決的問題。如果機器人能回答法律問題，那麼它也不可避免地介入了政治，因為法律的本質就是政治，這也將帶來一系列的問題。

前不久，在北大法學院的知識產權課上，老師就請了一個機器人到課堂上來與學生對話。學生可以向機器人問法律問題，例如「知識產權是什麼」，據說機器人回答得還不錯。

研發該機器人的公司聲稱，機器人永遠不可能取代老師，因為機器人沒有感情，而人類有感情，教學活動不僅是回答問題，而且還有感情的交流，這一點機器人無法做到。

這種說法有一定的道理，但是，機器人有沒有感情並不重要，重要的是機器人能否識別人類的感情，以及是否會作出回應。人工智慧領域長久以來研究的一個主要課題就是「機器如何具有自我意識」。機器人如果要進入醫療服務和家庭護理等行業，就必須能識別人類的表情和感情變化，然後給出回應。

達到這一點或許並不是不可能，因為我們已經能很明確地看到人工智慧的自我學習能力。在和李世石下棋之前，阿法狗曾和歐洲的七段選手對弈。當時的阿法狗「棋藝」肯定不如現在，但它現在已經超越了人類最強的棋手。

人工智慧自我能力的提升過程在開始階段比較慢，但其後它可以自己學習。人工智慧從弱人工智慧、狹隘人工智慧到強人工智慧、通用人工智慧的過程可能比我們預想的要快得多。

美軍無人機

二

馮象教授坦言這個問題其實已經過時。人工智慧早已參與戰爭，無人機就是最典型的例子，它也早已不是僅做偵查之用，還承擔了部分殺戮的任務。事實上，一般來說，一個國家的軍事領域往往是技術應用最先進的領域。和平使用人工智慧的願望早已破滅，接下來是如何限制它的問題。

去年的「人機大戰」后不久，聯合國曾討論過這個問題。再往前，哈佛大學的一個團隊已經討論過「是否需要限制人工智慧」的問題。在今年的一個有人工智慧界、科學界、法律界的專家參加的全球大會上，一份宣言被發表，宣言實際上也是重申了這個問題。

聯合國也在考慮是以國際公約的形式，或以聯合國為主導的談判，或依賴業界本身的自律來處理對人工智慧的限制。以及，如果要引進第三方的監督，怎麼設計機制才好。

威爾·史密斯主演的電影《我，機器人》

三

馮象教授認為，如果人工智慧會給人來帶來巨大的挑戰，如何處理人機關係就必須認真考慮。

科幻小說家阿西莫夫在《我，機器人》里曾提出過著名的「機器人三定律」：

一、機器人不得傷害人類或坐視人類受到傷害；

二、除非違背命定律一，機器人必須遵從人類的命令；

三、除非違背定律一或定律二，機器人必須保護自己。

「機器人三定律」作為一種邏輯上的總結，能夠實現當然很好，但現實中很難。其並不像無人機等實體，總是可以通過法律規制等手段進行管控，從而消除風險。

人工智慧不一樣，其被開發出來就是為了使用，所以沒法事後制定一個規範來規定人工智慧該如何應用。

比如無人駕駛，目前來講其技術已經非常成熟。如果無人駕駛可以有效降低成本，被大規模使用，相匹配的法律就必須事先準備好，而不能說讓技術先用起來，再看看法律怎麼辦。

無人駕駛造成的事故其責任風險可能非常複雜，不是現在的交通駕駛法律法規能涵蓋的。

要實現無人駕駛並不是說對汽車有多高的要求，而是整個道路系統必須是人工智慧的，汽車上路之後實際上是在巨大的智能道路網路里運行的。整個公路網是智能的，汽車只不過是小小的終端。

駕駛的法律風險也會變得完全不同。到那個時候，上路的車有人駕駛是不大可能的。也許政府會在郊外開闢一個地區，讓喜歡駕駛的人來玩一玩，因為到那時候有人駕駛的汽車才是整個網路里最危險的車輛，沒有保險公司願意承保。

到了那一天，無人駕駛不再只是我們想象中的技術，而成了一種日常的交通管理。

1、人和人之間意見不同，只要機器能識別人類感情，對人類的效忠就不再可能是無區別的。人類之間有矛盾，機器也需要做出決定，因此定律一做不到。有人會命令機器去做某種事情，而這個行為會直接或間接傷害到別的人類。

2、預料是困難的，在複雜社會裡，動作與結果之間簡單的因果關係機器可以預料，但無法實現更複雜的預判，所以定律二也無法實現。

3、機器人保護自己也很困難，要保護自己可能就會不保護什麼別的東西，違反定律一。

電影《機器人管家》中，機器人愛上了人類

除了上述三個問題，馮象教授認為更困難的問題是，大多數人類所處的社會制度本身可能承擔不起人工智慧。

他認為，首先，經濟制度本身使得人工智慧很容易成為少數人的工具，而不是服務於大多數人。且有了人工智慧后，人與人之間的差距可能會進一步擴大。比如醫療服務，高質量的服務會變得非常昂貴。就此我們不難設想一種情形：只有富人才能享受最先進的人工智慧，而其他人則會落入另一重境遇。

馮象教授表示他不那麼悲觀，因為雖然一方面人工智慧會加劇不平等，但另一方面其也會促進人們更加要求平等。

90年代以來，人類中似乎有一股潮流，那就是對平等的渴望比原來更強烈。比如，在互聯網上，大家都認為不應該受到財產利益的約束，每個人都「非法」獲益。但從互聯網文化的角度講，沒有人覺得這有很大問題，大家普遍認為互聯網上的資源就應該是公用的，在互聯網領域內一切都應該是共享的。

互聯網上的平等理念已經蔓延到其他地方。比如歐盟的難民問題，大量難民進入德國以後拒絕工作，只吃福利，要求被「平等對待」。

其次，一旦人工智慧更為發達，大量人類的工作將被取代。我們不難想象的是，藍領階層的勞動肯定會被取代，在這方面已經做得很好，青島港的主要部分已經是無人港，其他港口也都在向這個方向發展。

而且，醫生、律師這些比較需要知識的職業的被取代，現在看來似乎也是不可阻擋的。天津第三人民醫院已經引進了美國的機器人來診斷癌症，就文獻閱讀量而言，人類同機器完全不可比。很多大的律所也都開始嘗試使用機器人律師。

銀行等領域的大規模裁員已不少見，人工智慧繼續發展，現有的工作和收入分配製度將因為機器人的大量被應用而受到巨大挑戰。

銀行客服機器人吸引眾人圍觀

對此，馮象教授提出了兩點看法：

第一、人工智慧+互聯網文化所產生的平等要求可能催生出下一輪的革命。

怎麼讓許許多多用不著工作的人得到安頓？馮象教授去年在華政的演講中曾提到過計劃經濟的問題，馬雲也提出，未來可能只能搞計劃經濟。以前的計劃經濟是粗略的，而現在的計劃不同，信息的透明程度使得我們基本上能知道下一步會有什麼樣的需求，從而做出相應的安排。

馬雲提出計劃經濟的設想，是因為他自己已經掌握了大量的數據，在消費領域有計劃的實力。這樣的「計劃」放到國家層面來講也並不難。

任何人機關係可能性中最大的障礙，是人類所生活的經濟社會和文化制度本身使得機器與人不太能夠和平相處，我們應該嚴肅考慮制度改變從而帶來人機關係改變的可能性。

第二、人工智慧有巨大的風險，必須要對其監管和規制。

人工智慧對人類的風險不亞於核武器和生化武器，同理，我們不可能放心把其交由私人企業來完全把控。因而，如果人工智慧繼續發展，可能必須要由政府來介入。

也許在不久的將來，政府部門在這方面的信息透明壓力會越來越大，包括商業信息、公司信息等等。公司需要向政府實時報告信息，讓政府來監督機器的使用。

比爾蓋茨建議向機器收稅。雖然機器的稅最終還是人來交，但他認為機器不會隱瞞實情。

如果政府向機器收稅，就必須知道每個機器在幹什麼，監管就必須落實到每一台機器。甚至，每一個手機都必須實時向政府部門回饋使用情況，因為在未來每一個手機都是人工智慧。到那時候，對政府的要求會提高到多高的地步，老百姓和政府部門的關係就不是今天的行政法所能想象的了。

這種程度上，我們怎樣用法律法規來構建一個不同的社會就會是一個很大的挑戰。

阿諾施瓦辛格主演的電影《終結者》系列已成經典

馮象教授相信人類政府部門應該有足夠的智慧來處理這個問題，但挑戰是空前的。

人類從來沒有面臨過這樣一個情況——有一個東西在智能上超過了人。以前有比人跑得快的，有比人力氣大的，但沒有什麼東西比人類更聰明。現在不一樣了，人類最好的棋手也不知道下一步棋是什麼，機器已經大大超過人類。這個時候，如何設計制度就必須被重視和認真考慮。

馮象教授認為，人工智慧對人類的替代會產生很大的問題，但這也同時要求我們一方面要好好利用人工智慧，另一方面人類自己也要不斷往前走，不能停留在現在這個樣子，如果是十年後高度發達的人工智慧放到我們現在的體制內，要出大問題。

例如，在法律界，如果機器人大量地介入，律所也用，法院也用，政府部門就當然必須也用。

一種情形有可能出現：機器把法律搞得非常複雜，人都看不懂。一個簡單的案子讓機器去辦，結果它弄出很多人想都沒想過的東西，人傻眼了，最後只能交給它辦。機器不怕複雜，所以面對這種挑戰，人類必須不僅在技術上有所應對，還要重新設計經濟、文化、社會各方面的制度，讓它能應對技術的挑戰，同時保證人類獲得更優質的服務。

另外，有些事情的可能性我們現在來想不是很大，比如人工智慧是否會有感情。但有專家指出，人工智慧領域，即使是微小的可能性人類也必須全力研究，因為即便是最小的可能性，一次意外所帶來的災害也可能是人類承受不起的。比如人工智慧會否有感情的問題，現在普遍來說人們認為不會。但這個可能性只要有一點點，我們就必須研究，這對人類來說是非常高的要求。

最後，馮象教授以麻省理工學院人工智慧領軍人物馬文·明斯基的話作為結束。明斯基曾說，他最幸運的就是這輩子用不著回答未來人類所必須回答的問題——到底要不要發展某一種人工智慧。

「圍棋星球」上的人類可能為了維持既有的精神文明而集體投票決定放棄發展人工智慧，人類社會或許也會有這麼一天，而這個決定的做出將會無比困難。人工智慧在未來有著各種各樣的可能，將為整個人類社會帶來革命性、顛覆性的改變。

現場座無虛席

馮象教授為熱心聽眾簽名

律新社現場獨家播報分享

(本文根據講座錄音整理，未經本人審閱，小標題為編者所加，僅為方便閱讀，不代表本人觀點）

律新社官網

獲取更多法律服務資訊