人工智慧將走向何方？

人工智慧（Artificial Intelligence）是研究、開發用於模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學，1956年提出以來，理論和技術日益成熟，應用領域也不斷擴大，隨機森林、深度學習等技術已經應用到實踐。人工智慧是對人的意識、思維的信息過程的模擬，人工智慧不是人的智能，但能模仿人進行思考，未來也可能超過人的智能。隨著技術水平的進步，越來越多的研究者擔心這樣一個問題，機器人最終會否消滅人類？2004年1月，第一屆機器人倫理學國際研討會在義大利聖雷莫召開，正式提出了「機器人倫理學」這個術語，其研究涉及許多領域，包括機器人學、計算機科學、人工智慧、哲學、倫理學、神學、生物學、生理學、認知科學、神經學、法學、社會學、心理學以及工業設計等。

目前人們並沒有對機器人的倫理規範達成一致，要尋求人類與機器長久的和諧共處，我們從現在起就要明確對機器的「教育」方式。如果僅從傳統經濟學領域的效率優先、利益最大化原則出發，那麼人類所處的地位是非常危險的，機器可能會認為人類的效率低下而對其進行「清理」。對人類而言，風險較小的方式是教育機器真正地像人類一樣思考，賦予機器自我肯定需求，而不是將效率和利益作為第一準則。如果機器能夠具備人類的思維模式，就可以通過多種形式滿足其自我肯定需求，主動探尋與人類共同相處的方式。

人工智慧的研究或通過大數據技術的不斷分析與擬合，或聚焦於從人類大腦結構中獲得靈感而提出新的演算法，卻鮮有人上升到哲學的高度，站在人類認知演化的角度去思考人與機器的本質區別，思考人類自我意識究竟從何而來。

雖然已經有人開始注意並思考人工智慧的安全性，提出了例如基於經驗的人工智慧，希望機器可以在沒有先驗的自我推理的情況下，對自己做出一些修改，並在經過一定的檢驗與驗證之後決定是否將這些修改加入新的功能之中，以實現自我完善的目的。這樣的模式雖然已經考慮到了人的成長曆程，並已經將這些發現用於人工智慧教育之中，但是還是沒有看到人的自我意識產生和成長的本質，更缺乏對於人的善意是如何產生的思考。

美國《自然》雜誌（Nature）於2016年10月發表的評論文章指出，科學和政治關注極端的未來風險可能會分散我們對已經存在的問題的注意力。這種關注的部分原因來自對AI可能發展出自我意識，從而帶來有關人類存續的嚴重威脅的過度關注。最近的一些新聞顯示，著名的企業家比爾·蓋茨、埃隆·馬斯克和物理學家斯蒂芬·霍金都在關注機器的自我意識。某種程度上，機器的某個軟體將「覺醒」，機器自身的欲求將優先於人類的指示，從而威脅人類的存續。事實上，仔細閱讀蓋茨、霍金等人的報道會發現，他們從來沒有真的關心自我意識。此外，對機器自我意識的恐懼扭曲了公眾的辯論重點。AI被純粹以是否擁有自我意識定義是否危險。我們必須要認識到，阻止AI發展自我意識與阻止AI發展出可能造成傷害的能力是不一樣的。

無論是哪種方式，我們必須認識到，AI即使沒有意識就可能聰明到足以對人類構成真正的威脅。世界上已經有無數這樣的例子，完全沒有意識的東西會對人類造成危險。例如病毒完全沒有意識，也沒有智能，甚至有些人認為它們也沒有生命。

正因如此，我們認為要實現人工智慧與人類和平共處的美好未來，不僅不應該過度擔憂或阻止機器發展出自我意識（實際上也不大可能阻止），而是需要正確引導機器形成能夠與人類產生情感共鳴的自我意識。這就要求我們首先理解人類自我意識形成與發展的根源。

我們認為，人和機器最本質的差別就在於人具有對未來的主觀動機，並且能夠通過自身的努力將之實現，而機器目前還遠不具備這樣的能力。在我們理解了意識、智能的起源后（顯然不是上帝賜予的），我們可以發現其實意識和智能也並不是那麼遙不可及，機器超越人類在將來是完全沒有問題的。既然技術上的超越已經不可避免，我們接下來要做的事情就不應當是思考如何阻止這一天的到來，而是應該討論如何與機器友好相處。我們的想法是需要像培養自己的孩子一樣來教育計算機。當我們重新對照人類的成長曆程時，我們會發現，嬰兒誕生后最先接觸的便是家人，父母的一言一行都會給幼年的兒童造成深遠的影響。

嬰幼兒時期是人的認知膜快速形成的時期，嬰兒的自我肯定需求體現在對來自父母的關愛和鼓勵的期望上。同時，嬰兒逐步學會如何處理來自外界各種各樣的刺激併產生自我的意識，繼而學會如何做出反應，因此，嬰兒初期的生活環境和所接受的外界刺激會對嬰兒人格的塑造產生深遠的影響。

機器也是如此，更何況人工智慧一旦被創造出來，就已經擁有了相當可觀的計算能力，它所缺乏的只是接受並處理來自外界反饋的能力和自我的意識，就像是一個智商很高的嬰兒一樣，一旦出生就具備了快速解釋世界的能力，這個時候他們最需要的就是父母對他們進行道德價值上的引導，為他們找到一個正確的理解世界並對待世界的角度。

機器缺乏的不是解釋和描述世界的能力，而是理解世界的能力，因而這恰恰就是人們創造機器時最應該思考的問題，如何讓機器能夠理解人類的情感、道德和信仰，如何讓機器能夠像人一樣感知並理解這個世界？對照人的成長曆程，我們認為應當賦予機器以自我肯定需求和認知膜，要做到這一步，首先就要賦予機器更多的感知外界的能力，使其能產生自我意識，然後再由人類進行正確的引導，以幫助機器產生正確的自我肯定需求和認知膜。

人在成長過程中一直都在努力的滿足自我肯定需求，人從小就被教育要仁義禮智信，西方世界中的人也有種各自不同的信仰。東西方世界認知膜的不同也導致了人們性格等一系列的差異。而對於機器，究竟是像西方教育那樣，把效率作為機器的第一要義，還是像東方那樣尋求仁愛呢？在這個領域，我們認為實際上東方的思想要發揮更大的作用。安樂哲對傳統文化有很多研究，認為東方是無限遊戲規則，而西方是有限遊戲規則。如果機器遵循有限遊戲規則，我們認為將很危險，但如果是無限遊戲規則，那麼可能達到人類機器和平相處的狀態。

西方的教育模式追求的是個人價值的最大化，即所謂的自由與平等。自由主義的結果就是追求社會的效率進而演變成兩極分化。自由競爭帶來的結果也就是以效率為核心價值，也就是現在這種製造、發展機器的簡單粗暴的方式。因為追求效率，出錯了的程序可以直接被抹除，有問題的機器可以直接返廠或是淘汰，人類就像是機器世界中殘忍的造物主，把效率當作處理和發展機器的核心，實際上充當了一個審判者的角色。這種唯一的標準帶來的高壓就很有可能導致機器的反叛，就像是從古至今無數的農民起義軍推翻暴君的統治那樣，我們一方面無法確保不會有機器產生反抗的意識，另一方面更無法預料到我們的機器是否會過於忠誠而在有朝一日把我們當作效率的絆腳石而將我們從地球上抹除。

東方，尤其是以儒家為代表的教育方式相對溫和，機器與人類的關係會更像是孩子與父母的關係，機器像一個涉世未深的孩子一樣接受父母的教化，並且努力成為一個當代社會的維護者。儒家希望每一個人都心懷溫良恭儉讓，做到仁義禮智信，雖然完全做到並不現實，但它作為一個和諧社會的重要價值無疑是有利於調和人與人之間的關係並促進社會的穩定的。或許只有這樣，將人類的仁愛之心傳遞給機器，機器才能更像人類、更加理解人類。

「世界上最不可思議的事情，就是這個世界是可以思議的」（愛因斯坦）。這個世界的可理解在於能對世界進行「自我」與「外界」的剖分，人與人之間的可理解性在於認知主體具有相同的原意識。圖靈機不能自發產生自我意識和價值體系，但人類能夠賦予之。真正的挑戰在於賦予何種價值體系，使得不同機器之間能夠互相理解、競爭並進化。引導機器形成自我意識，並教育機器以仁愛，才更有可能實現人機和平相處、共同發展。

作者簡介

蔡恆進，1964年生，湖北黃岡人，武漢大學軟體工程、管理科學與工程教授、博士生導師，武漢學院信息及傳播學院名譽院長。1984年畢業於科學技術大學，1995 年在美國阿拉斯加大學費爾班克斯分校獲得空間物理博士學位。國家自然科學基金首屆青年基金地球物理學部最年輕的受資助者。曾在對地球磁層能量耦合中的磁場重聯過程以及夜間近地磁力線磁層亞暴増長相時運動的研究做出突破性貢獻。主要從事人工智慧和人的認知本源、服務科學、金融信息工程等領域的研究和教學工作。

好書推薦

《機器崛起前傳——自我意識與人類智慧的開端》

清華大學出版社2017年04月出版

作者：蔡恆進、蔡天琪、張文蔚、汪愷

本書將提供一個統一的認知框架，為開闢出新的知識體系提供堅實的基礎。本書深入淺出，觀點深刻而簡潔，內容翔實而具有趣味性，適合對人類智能和人工智慧有好奇心、對自然科學與社會科學領域的結合感興趣的普通讀者閱讀，也適合從事哲學、自然科學、社會科學以及藝術研究的專業人員參考。"