人工智慧會最終消滅人類嗎?

編輯：加一

社長說

世界盡頭的地方，是雄獅落淚的地方，是月亮升起的地方，是美夢誕生的地方。——大衛《人工智慧》

●●●

人工智慧會最終消滅人類嗎

《未來簡史》的作者，尤瓦爾·赫拉利表示，未來的社會有很多選擇，而不是完全由技術來決定的，一切都懸而未決。如果大家不喜歡他描述的這個世界，可以用自己的行動去改變、決定未來世界的形態，去消除風險，發揮技術好的那一面。

作為《人類簡史》以及《未來簡史》的作者，尤瓦爾·赫拉利在全球各地的公開演講。在北京場的演講中，他提出，隨著技術發展我們可以用機器替代計程車司機、醫生以及其他職業。少數精英階層創造大量的人工智慧，絕大部分人將變成沒有任何經濟價值的無用階層。數以億計的人將找不到工作，這會產生巨大的社會、政治、經濟方面的問題，這可能是21世紀最大風險。

以下為尤瓦爾 · 赫拉利的演講摘要：

「人工智慧」可能是我們這個時代最著名、重要的科學發現，或者可以說是整個21世紀人類歷史上最重要的一個演變。

人工智慧不僅僅是21世紀最重要的科學進化，也不只是我們人類歷史上最重要的科學進化，甚至是整個生命創始以來最重要的原則。

有機生命會逐步被無機生命所替代

過去40億年當中，所有生命都是按照優勝劣汰的原則進行演變，所有的生命完全按照有有機化學的規則進行了演化。

不管你是巨大的恐龍還是一個阿米巴蟲，還是一個土豆，還是一個人，都是按照物競天擇的規則，都是有機化合物組成的，我們完全遵守過去40億年有機化學規律的演變。

這樣一個40億年的規則將會隨著人工智慧出現而發生根本變化，人工智慧將替代物競天擇自然選擇的結果終止。

我們的生命將根據計算機智能設計，脫離原先有機化合物的限制，脫離原先有機化學的限制，突破原先的限制而進入一個無機的世界。

在我們有生之年，有可能看到有機生命會逐步被無機生命所替代。我們會逐步看到有機化學規律和無機智慧性的生命形式並存。

原先我們是碳基的，未來生命形式當中，硅基會成為主要的生命形式。這是我們有生命以來的40億年當中第一次出現的一個重大變局。

決策權讓渡給人工智慧

一旦我們從原先有機的生命形態轉變成為無機的生命形態，比如機器人，人工智慧計算機等，那麼環境就沒有限制了。機器人在火星上面也可以生存，而人類不可以。

在地球出現生命以來的40億年，我們有可能突破地球的限制而進入到其它星系，不是人類，而是人工智慧可以做到這一點。

另外一個重大突破性的演變，也是在我們有生之年可以看到的，事實上大家已經從某種程度上經歷了這樣一種變革。

什麼樣的變革呢？我們人類上萬年以來在演變過程當中獲得了越來越多的力量，在21世紀的時候人類將會失去這些力量，這些力量將逐步從我們這個物種讓渡給人工智慧。

這些權力或者我們掌控的力量，不管重要的還是不重要的，將會逐步拱手讓給計算機或者人工智慧的這些演算法。

比如你下一個月讀哪一本書，以前很多人會依賴自己的感覺、喜好、口味，或者依賴朋友、家人的推薦。但是進入21世紀以後，我們逐步把閱讀什麼書，購買什麼書這樣的權力讓渡給了電腦、計算機、演算法、讓渡給了亞馬遜網站。

當我們進入到亞馬遜未來的書店中，有一個演算法告訴你：我一直在跟蹤你，我一直在收集你的數據，你喜歡什麼書、不喜歡什麼書，我都知道。亞馬遜的演算法會根據它對你的了解，以及它對於上千萬讀者的了解向你推薦書籍。

這個仍然處於初級狀態，這只是人工智慧邁出的一小步，下一步它的設備可以連接面部識別的一個軟體。今天面部識別的演算法很初級，但是慢慢地，它會學會通過看你臉部的表情判斷你喜好。

今天計算機也在學會、提高對於情緒的識別能力，甚至比人類做得更好。我們把這樣的一個軟體和kindle這樣的電子閱讀器結合在一起，kindle能夠判斷你正在閱讀的書對你產生的情緒影響。

最後一步把設備和生物識別感測器結合在一起，這些生物識別感測器是植入在體內，這不是科幻小說，已經實實在在用了。

設備不光能夠向我推薦書籍，而且也能夠圍繞著我生活中更加重要的決策，向我做出建議。比方我應該學什麼，該生活在哪，應該在哪兒上班，甚至和誰結婚。

人生當中最重要的決定之一，可能就是你的一生要和誰度過——伴侶的選擇。在選擇伴侶這件事上，很多人犯過糟糕的錯誤，我們主要賴於自己的感覺以及親友家長的建議。

現在有對情侶，該結婚還是分手？二三十年以後，你可能可以問亞馬遜百度、騰訊這樣的問題。

它對於你個人所有信息的了解以及伴侶的了解，對幾百萬人的成功或不成功的伴侶關係的理解，可以告訴你：現在你和你的男朋友或者女朋友結婚的概率是90%。

你心裡想的可能是：我有能力找到一個更好的伴侶，更好看更漂亮的伴侶。

現在機器會知道你這樣想的錯誤來源所在：你對外表太看重了。他會告訴你：根據我的統計數據，即使外表對於關係的成功與否具一定的重要性，但是這個重要性是比較小的，可能只佔整體權重的10%，也就是在一個成功的關係當中只有10%是取決於外表、美貌。

我已經看到了這樣的現實。從長遠來看，你和現在這個人在一起會是最幸福的，你應該和他結婚。

在這樣的一種設想當中，決策的權威、權力已經轉移了，從人類手中移交給了演算法。

我們在這需要理解的是：做出決定的能力就像一組肌肉一樣，這樣的肌肉你不用的話就會退化，你對計算機信任越多，依靠人工智慧來做決定越多，你就會失去自己做決定的能力。

再給大家舉一個簡單的例子：找路。在北京找一條路，去一個地方，比如火車站，過去我們怎麼找路？基於自己的本能知識經驗，到一個十字路口該左轉還是右轉，你會依賴於自己的經驗。

今天我們越來越多的人依賴智能手機、各種各樣的GPS、地圖的應用。你的本能告訴你應該右轉，但是智能手機告訴你左轉，你越來越多地相信智能手機，而不是直覺。

經過一段時間之後，你的認路、找路能力就喪失了，即使你還想這樣做。在北京這樣的空間找路、認路，今天我們靠機器，二十年以後我們在自己的人生當中碰到了這樣的十字路口要做決策的時候，很多人會用智能手機、人工智慧來做決定，他們會告訴你該怎麼做。

人工智慧產生的革命性影響

隨著人工智慧變得越來越好，有可能人工智慧會把人從就業市場當中擠出去，對於整個社會的經濟和政治都產生革命性的影響。

今天交通事故當中人是主要的因素，有了人工智慧就不會有這樣的問題。自動駕駛的汽車永遠不會喝酒，自動駕駛的汽車也不會在開車的時候睡著了，也不可能在開車的時候接打電話，這樣自動駕駛汽車就能替代人員駕駛員的作用。

不光是公車司機，甚至是醫生這個工作都會發生變化。普通醫生的知識和能力是有限的，不可能每天都在更新知識，不可能一個人知道全世界所有的疾病藥物和研髮結果。

但是對於人工智慧來說這都是無可限量的，可以收集信息分析信息，熟知全世界所有疾病，能夠24小時不間斷地跟蹤一個患者。

此外，人類醫生怎麼培訓？可能需要八年大學碩博連讀，臨床實習之後才會培訓出一個合格的醫生來。但人工智慧只要技術上實現一次突破，你拿到的不是一個機器醫生而是無窮多的人工智慧醫生，他們可以被複制。

這個比培訓人類醫生要效率高得多，雖然一開始要花數百萬億美元研發，但是一旦研發出來就可以無窮複製。

最大風險：人工智慧造就無用階層

隨著技術發展我們可以用機器替代計程車司機、醫生以及其他職業，人工智慧逐步都可以替代，這時候出現一個非常大的人類社會學問題。

《機械姬》劇照

正如第一次工業革命使得城市無產階級出現，人工智慧的出現會出現一個新的階層，就是無用階層。

數以億計的人將找不到工作，他沒有辦法和計算機人工智慧競爭，對這些人來說他已經喪失了經濟的價值，沒有經濟價值也就沒有政治權力，這會對社會、政治、經濟方面產生巨大的問題。

我們可以說人會自己不斷地學習，不再需要卡車司機、計程車司機，會有新的職業。你想一下一個50歲的計程車司機失業之後，他有多大能力去培養自己？對於50歲的計程車司機來說，他要重新培養自己的能力，這樣就太晚了。

這樣的革命非常危險，它會從根本上改變我們的教育體系。事實上我們沒有人能夠描述三十年後、二十年後的就業市場，換句話說我們現在的教育系統沒有辦法了解今天應該教我們的孩子什麼。

今天我們的孩子在學校裡面學到的所有知識二三十年後完全無用，我們不知道現在應該教他們什麼，才能夠讓他們在二三十年後找到工作。

即使我們會產生新的工作，二三十年後可能產生新的工作，但是今天孩子到那天是不具備那些新工作的就業能力的。那麼這個時候出現了數百萬、數千萬甚至上億失業人口，他們喪失了經濟價值，這會產生進一步威脅。

《攻殼機動隊》劇照

人類未來的精英階層是否還會有動力照顧那些弱勢群體？未來如果人工智慧替代人類，他可以替人去打仗、去做工，這樣國家精英階層就沒有動力去投資醫療教育，幫助弱勢群體。

人類社會會分成兩大階層，非常少的精英階層，就像上帝一樣，他們在創造大量的人工智慧，絕大部分人將變成沒有任何經濟價值任何無用的階層。這是21世紀最大的風險。

智能和意識之間究竟有什麼區別？

最後一點在我結束演講之前，這也是非常重要的一點：有很多關於人工智慧的討論，但是也有很多關於人工智慧究竟意味著什麼的迷惑和疑問。智能和意識之間究竟有什麼區別，很多人迷惑。

智能是解決問題的能力，比如我們診斷一個疾病，或者找到某一個疾病的治療方法，這是智能。但是人類的意識是感受某一種外界的能力，你的情緒、你的感情、你的痛苦、愉悅、愛等等。

很多科學的科幻小說或者其它科幻電影中，我們經常看到人工智慧逐步產生了意識，機器人計算機變得非常智能，同時獲得了意識和情感，機器人會變得非常憤怒，他想殺掉所有的人類。

但它不是科學只是科幻，科學告訴我們智能和意識是完全不一樣的兩個東西。到目前為止，我們計算機或者人工智慧發展到今天，智能水平在不斷提高，但是人工智慧的意識還是零。換句話說：我們現在沒有任何指標證明或者任何跡象表明，計算機和人工智慧在未來能獲得這種意識。

計算機只是以一種完全不同的方式在工作，和人類其他的哺乳動物完全不一樣，這是我們面臨的風險，或許是最大的風險。

上億年的生命通過我們的意識不斷摸索，慢慢演變到今天的智能狀況，速度是非常慢的，演變需要數百萬年的時間。突然有一個計算機突然殺出來，他們用完全不同的路徑、方式，完全不同的發展模式，超級的智能在趕超有機的生命體。

他們智能的進化和演變速度比我們快得多，他們的發展演變比我們快得多，他們會控制整個世界甚至宇宙，但是沒有意識。

我講的東西不是一個寓言。人工智慧的技術毫無疑問會改變我們的世界，但是我們未來的社會究竟怎麼樣？這會有很多選擇，而不是完全由技術來決定的，一切都懸而未決。

如果大家不喜歡我剛才描述的這個世界，大家仍然可以用自己的行動去改變決定未來世界的形態，去消除風險，發揮技術好的那一面。

最後我想講的就是：當你作為一個個人，一家企業、政府部門，或者作為精英階層，我們在做人工智慧的時候，做各種各樣決定的時候，一定要注意人工智慧不僅僅是單純的技術問題，同時也要注意到人工智慧以及其它技術的發展，將會對社會、經濟、政治產生深遠的影響。

我們一定要注重人工智慧技術層面的問題，還要嚴密關注人工智慧的發展對社會可能產生的影響。因此，我們在投資與技術發展的時候，還要投入於社會影響的研究。謝謝。

1