海牛電台：機器人與人類之間自我意識的差異

音頻整理：Miracle

配圖：網路

發動機已啟動，隨時可以出發！——布里茨

本期海牛電台，就來講述蒸汽機器人和他身上的故事。

內容整理於海牛電台第34期

主講人：Riot Xie、Riot Guan、荔枝電台沉默姑娘

今天我們來聊聊布里茨。祖安的英雄已經差不多快被我們聊完了，而幾乎每個英雄的背景里都多多少少地會涉及到布里茨。上一期已經提到過，這一期我們將會就著布里茨的背景故事聊聊人工智慧。

說到人工智慧相關的經典科幻片非常多，比如《黑客帝國》、《機械公敵》，其中威爾·史密斯的坐騎RSQ2035在當年看來是如此科幻，如今固特異輪胎卻已經宣布他們發明出了和電影中一樣的球形輪胎。為了慶祝英雄聯盟mac客戶端上線的皮膚蘋果機器人，英文原名是iBlitzcrank，一方面玩了iPhone的梗，另一方面正是致敬了電影《I, Robot（機械公敵）》。當然，如果只是就皮膚外形來說，蘋果機器人的造型與《機器人瓦力》中的Eva也有異曲同工之妙。

阿西莫夫的《兩百年人》

布里茨的舊版故事原型幾乎照搬了阿西莫夫的小說《兩百年人》。除開第二版中去掉英雄聯盟的概念之外，第一版和第二版背景故事的情節相差無幾：布里茨最初是為了清除祖安肥料而被維克托創造出來，維克托的老師斯坦威克教授動了貪念，企圖竊取學生的研究成果。雙方爭奪之下，布里茨趁人不備逃了出來，然而，獲得自由的布里茨並不知道何去何從，為了尋找自身存在的意義而在瓦羅蘭大路上四處遊歷——似乎不管是不是人類，自我意識必定伴隨著「人生三大問」的困擾：我是誰？我從哪裡來？我要去哪裡？

原來的背景故事其實是在講述布里茨不滿足於成為「物件」，為自己爭取自主權的過程，原型正是阿西莫夫的小說《兩百年人》。講到這裡，主講Riot Xie就必須向讀者朋友吐血推薦一波阿西莫夫的小說了，阿西莫夫的《基地三部曲》被譽為「人類想象力的極限」，幾乎所有後來的科幻小說都超越不了阿西莫夫的作品所達到的邊界。

《兩百年人》講述的是一個機器人在兩百年間努力爭取成為「人」的權利的故事。布儘管布里茨的故事梗概與這部小說相去無幾，但原著卻透露出各種耐人尋味的細節。表面上描寫的是機器人成為人的故事，背後卻反映出阿西莫夫對「人為什麼為人」的深入思考。

故事的主角是一位名叫安德魯·馬丁的機器管家。有一天，他所服務的家族的小女兒發現安德魯很擅長做木雕，於是將他的作品拿去給父親，也就是安德魯的主人。主人看到之後非常欣賞，於是將安德魯的作品拿去市場售賣。拿到收入之後，他為安德魯在銀行開了一個賬戶，並將售賣的一半收入存入了這個賬戶中。後來，安德魯向主人表露出希望獲得自由的意願。主人回答他，自己非常擔心，如果安德魯公開了他的非人身份，那麼安德魯銀行的存款很可能被銀行認定為非法而遭到沒收。儘管如此，安德魯的主人還是同意給他自由，過了不久他就病死了。——從這一段情節我們便可以看出，在讓機器人成為「人」的過程中，阿西莫夫認為最為重要的並不是生理或技術上的限制，最為重要的就是經濟獨立！這也是阿西莫夫區別於同時代其他科幻小說作家的關鍵點之一，相比其他人第一時間想到的，機器人該吃什麼喝什麼，他的思考顯然更加有厚度。

後來，安德魯為了擴充自己的辭彙量打算去圖書館補習。在那個還沒有發明互聯網的時代，安德魯不慎迷路了。人類見狀捉弄迷茫的安德魯，威脅著要拆掉他。雖然事後被原主人的孫子救了下來，但從此以後，致力於為機器人爭取不受人類傷害的權利。安德魯原主人的孫子是一名律師，在他的幫助下，保護機器人的法律最終獲得了通過——這是阿西莫夫小說體現出的第二點，機器人要成為「人」，在獲得經濟獨立的基礎上，需要得到法律與制度的保護。

最後是生理上的改造：安德魯安裝了消化系統、排泄系統，他的外貌和皮膚經過改造也與常人無異。儘管按照人的標準改造並不見得十分客觀，這也是科幻小說三巨頭阿西莫夫 海因萊因、阿瑟克拉克的共同點：他們筆下的未來世界有著田園牧歌式的美好氛圍，和蒸汽朋克、賽博朋克中反映出的殘酷、高壓的未來社會截然不同。但是，人們仍然不接受他——人們對於他「不朽」的特性感到十分恐慌。只有會死亡的，才能算作人類。所以在故事的最後，安德魯要求人類修改他的大腦，讓他可以自然衰退。在他兩百歲的生日上，國家與政府正式承認了他作為「人類」的身份，不久，安德魯便滿足地與世長辭了。

關於進食、生殖等動物也具備的基本能力，阿西莫夫並沒有重點關注，從他的作品中，我們可以看出，經濟獨立，法律保護，和與其他人類同處一室的社會屬性，才是人之所以為人的必要條件。其中，死亡是人類必不可少的社會屬性，並非只是單純的自然過程。在32期講述維克托的專題中，我們討論過存在主義反對永生的觀點，如果沒有死亡，那麼每人人生經歷的可能性都是均等的，那麼討論人的本質也就失去了意義。儘管人人都嚮往永生，但宏觀上講，整個社會與、道德體系是畏懼永生的。

不是機器人的蒸汽機器人

雖然大陸伺服器譯為「蒸汽機器人」，其實布里茨的英文稱號中並沒有robot這個單詞，他的稱號the great steam golem台服譯為「蒸汽巨神兵」。Golem在《聖經》中出現過一次，包含兩層含義：1.無定型的物質；2.胚胎。所以golem被創造的時候就蘊含了「原始狀態下的人類」這一層涵義，這也就不難理解為什麼原版的故事總是在圍繞「變人」這一主題展開了。然而，隨著奧利安娜和扎克故事的更新，「變人」的主題一再出現。比起布里茨，扎克更是「無定型」的「胚胎」，他是「人性」的具象化。在扎克的故事中探討了並非只有人才有人性，人性可以靠後天的模仿獲得，而在奧利安娜的故事中，奧利安娜由人變為機械，再以機械之身尋找自我的過程中，探尋對「人」的本質的思考——對「人類」而言，自我意識的重要性是高於外形和出身的（或許這正好解釋了拳頭後來出了一大堆不是英雄都不是人形的原因吧）。奧利安娜和扎克為了尋找自我，各自出發在瓦羅蘭大陸上流浪。但皮城和祖安背後千絲萬縷的明爭暗鬥是世界觀的重要背景，一個沒有找到自我、立場不穩定的英雄很難融入紛爭的大背景。就比如《復仇者聯盟》中的綠巨人浩克，因為自我認知痛苦不堪的他總是在大規模衝突中的不穩定因素。與他相反，鋼鐵俠之所以是整個聯盟的核心，正是因為他的人格非常完善、幾乎從不會動搖自己的立場。因此，在新版的故事中，為了與兩派對立的大背景相容，布里茨的故事已經不再圍繞「變人」的主題而展開了。

不過怎樣才能判斷機器人具有了自我的意識呢？

掃地機器人在家庭中已經越來越普及了。如果掃地機器人只是將戶主家中各個角落走一遍吸走所有灰塵，似乎還不能算是「機器人」，充其量算作「機器」。但掃地機器人可以在自己沒電的時候找到家中的插頭自己充電，看起來有了那麼一絲「人性」的感覺，貌似變得可愛了一點。另外，高配的掃地機器人在初次啟動的時候會首先在家裡「探探路」，在「腦子」里構建出戶型平面圖，今後做衛生的時候就不會撞牆，也會避開障礙物了——那麼，如果對一個不知道其中原理的人，高級的掃地機器人和家政阿姨有什麼區別呢？這個例子與約翰·希爾勒在1980年提出的「中文房間（Chinese room）」思想實驗其實語出同源。作為反駁強人工智慧（人類具有自我意識，機器人沒有）的論據，他提出這個實驗以驗證「什麼才是意識」：假如將一個完全不懂漢語的人關進一個封閉的房間，房間里有所有關於中文的語法和辭彙資料。外面的人向房間里遞進中文問題，房間里的人儘管對中文一竅不通，他能根據資料完善地回答外面的人的問題。那麼房間外的人永遠也不知道裡面的人會不會中文。那麼在外界眼裡，就會認為房間內的人懂中文——一旦將房間替換為大腦，那麼問題就來了：人工智慧到底算不算具有意識？

假如你家的掃地機器人有一天作出你理解之外的舉動，它用並不知道的原理做到了人作出的判斷，是否可以認為機器人就具有了「意識」呢？當面對行為越來越複雜的個體時，而人無法理解其中原理，人總是傾向於認為，這個個體具有意識。著名的圖靈測試就是這樣：將人工智慧和人類分別放在兩個房間中，假如外面的人問了許多問題都無法分辨方便中的究竟是人工智慧還是人類，就說明這個機器通過了圖靈測試。不過令人恐懼的是，如果人工智慧真的發展出人類所謂的「智商」，那麼理論上存在故意不通過圖靈測試的人工智慧。這個假說引來了新的猜測：會不會人工智慧早就出現了，只是我們真的沒有辦法分辨？在Alpha Go初亮相時就有一種說法，其實Alpha Go故意輸掉最後一局，以免讓人類認它為威脅。

回到布里茨的話題，布里茨最初被創造出來時，給他的任務是清除化學肥料，救助受害者。布里茨救助受害者的方式是改變供水與食物供給系統。所有機器人小說中最精彩的部分，就在於人對自己的反思。按照布里茨的邏輯，他認為最好的幫助人類的方法就是先讓自己成為「人」。艾克的背景故事中有這樣一句話，形容祖安是一座「充滿活力的城市，時刻都洋溢著力量和潛能。」這也許就意味著，祖安正期待著一場革命。儘管布里茨對祖安的問題心知肚明，與艾克一樣的熱血小青年不同，與其用一己之力改變祖安，他希望通過改良主義的手段改變家鄉。結合前面布里茨獲得意識的情節，我們也許可以作出推測，布里茨希望改善人們的生活條件、避免人們受到傷害，讓更多人在力所能及的範圍內過上更好的生活。政治課本上說，階級矛盾根本上是生產力的矛盾，在生產力蓬勃發展的社會中，是不存在階級矛盾的——這就是布里茨的思路，他希望平衡生產力與生產關係，避免暴力革命的發生，又能改善家鄉的面貌與人民的生活。儘管布里茨的想法非常理想化，甚至有些天真，但是比起執行命令的簡單機械，布里茨明顯表現出了「思考」的過程，他想從源頭上解決問題。

儘管新版故事中，布里茨使用了維克托的工具箱，打開了自己的機體，解除自己行為上的限制。雖然人們不知道他是如何改造自己的，也不知道布里茨究竟在什麼時候具有了意識。但這是否正說明了，當個體的行為複雜程度超出理解的時候，就能認為這個個體具備了意識呢？就像沒有人能說出自己是怎樣從嬰兒具有意識的，布里茨似乎也是慢慢進化出智能的。

人工智慧的未來是什麼

現在流行的人工智慧理論將人工智慧分為弱人工智慧（如GPS導航、掃地機器人）、強人工智慧（自主性模擬，深度學習，自我改造，神經網路學習，如Alpha Go的發展方向）和超人工智慧（超過人類）。假如真的有超人工智慧，那無疑是「神」一般的存在。這也許正是人類畏懼的。然而，搜索引擎、GPS導航都是人類研究和發展的方向，搜索引擎已經越來越往「中文房間」的方向靠攏，那麼人類究竟害怕的是什麼呢？

我們孜孜以求發展人工智慧，最根本的原因還是為了探尋人類自身。阿西莫夫提出了著名的機器人三定律。但看似滴水不漏的定律中事實上有很多空子可鑽，也許當人工智慧發展到一定高度的時候，人工智慧完全可以在不違背三定律的情況下，作出違背一般常理的行動。即便在阿西莫夫自己的小說中也對自己提出的定律進行了思考：機器人三定律事實上是人類的行為準則：保護自己、在必要的情況下聽從他人的意見、不能傷害彼此。上一期提到的《屠殺器官》中，曾經探討過，人類的「良心」，其實是後天形成的。但它是在人類進化過程中被保留下來的，維持人類社會所必須的「本能」——人類是依靠集群生存下去的，儘管群體中會出現背叛者，但維繫人類社會不能靠互相背叛，而是靠互相信任。因此在進化過程中，是道德被保留了下來，而非背叛。

儘管情感作為更高級的意識形式，在我們討論的人工智慧尚未涉及到。但隨著人工智慧的發展，人工智慧具有了情感，當人類與人工智慧之間產生更親密的關係之時，也許就會有人為了人工智慧的權利挺身而出，從而引發更為深刻的革命。這一情節已經出現在了阿西莫夫的《基地三部曲》中。

說到人對物件的移情，在這裡主講Riot Xie向大家推薦帕拉尼克（《搏擊俱樂部》原著作者）的短篇小說《出埃及記》和《腸子》。儘管《腸子》在國內更為著名，但主講牆裂推薦的是他的《出埃及記》——完美地寫出了對「物件」的人一般感情。和歷史上的出埃及記類似，小說描述了被人損害的玩偶成群結隊，想要離開迫害他們的地方。帕拉尼克的功底厚積薄發，不動聲色地表達出幽默又感人的情節。

儘管有人畏懼，但人工智慧的發展是不可阻擋的。然而，人工智慧究竟會向何處發展？我們對人工智慧的理解是否正確？人工智慧的盡頭在哪裡？短短一二十年中，固定端的互聯網已經完全變成了移動互聯網，4G信號已經完全普及。那麼人工智慧的未來究竟會如何，沒有人知道。

從奧利安娜、艾克、扎克、金克斯到布里茨。每個英雄或在追求自身存在的意義，或像布里茨一樣，通過不斷地幫助他人完善自己的人性。我們可以發現，拳頭的背景架構設計師在描繪祖安英雄的過程中所傳達出的——無論長相與出身，最重要的是你的心與意志，是否強大到足以超越平凡。