人類將被人工智慧奴役？"未來簡史"作者這樣說

據大西洋月刊報道，飢荒、瘟疫和戰爭一直是人類歷史面臨的三個主要威脅。不過在今日，歷史經驗被反轉。大多數國家的人民更可能因吃的太多而喪命，而非死於飢餓。相比在瘟疫浩劫中失去生命，更有可能自然老死。更有可能以自殺了結性命，而非魂斷疆場。

當飢荒、瘟疫和戰爭這些傳統威脅式微，人類開始看重如何實現不朽和永久的幸福，正如尤瓦爾·赫拉利在其新書《未來件事》（Homo Deus）中所描述的那樣。換句話說，人類要將自己變成神明。

赫拉利的上一部著作《人類簡史》（Sapiens）是一本引人入勝的人類物種史。新書《未來簡史》更是融合了哲學、歷史、心理學和未來主義，以宏大視角審視人類的終極命運。前不久大西洋月刊專欄作者德雷克·湯普森（Derek Thompson）就書中預言的對作者尤瓦爾·赫拉利進行了專訪。

以下為《未來簡史》作者、歷史學家尤瓦爾·赫拉利受訪實錄（經整理）：

湯普森：在《人類簡史》中，你預測工作的終結，以及自由個人主義和人類的終結，讓我們一個一個來談。

你用一個優美的方式總結了人類與權威的關係。最初，我們相信權威來自於神。如今這一觀念已經讓位於現代自由主義。現代人相信權威出自於人。民主說權力來自選民，而不是神。資本主義說消費者永遠正確，而不是聖經至上。營銷人員相信眼中西施，而不再傾心柏拉圖的完美理念。但你也提出一個不詳的預測，人類將同計算機、演算法和生化設備融合以實現更好的生活。人自身的權威和地位將讓位於數據和人工智慧。當下世界有沒有什麼發明或創新最能佐證這一說法？

赫拉利：我從最簡單的事情開始。以GPS應用程序為例，比如Waze和谷歌地圖。在五年前，你步行活著開車去了一個地方。那時你根據自己的知識和直覺進行導航。但是今天，每個人都完全依賴手機地圖來指路。人們失去了自己導航的基本能力。一旦應用程序發生錯誤，他們就完全認不得路了。

地圖之路只是引示，人工智慧在人生道路上的角色又該如何呢？在現實路口你依賴演算法程序。換做是面臨職業選擇或婚姻大事，你是否還會相信演算法甚於直覺呢。

當下傳播最熱的是生物感測器。它們有可能變的無處不在。人們將向他們的生物感測器討教生活指導。這是一個既有趣又可怕的東西，因為我們不需要再費心為自己的身份負責。我們將根據神經化學信號的生物識別數據來制定決策，以決定如何生活。

湯普森：下面是我對這個想法的理解。這是未來，比如我在周五晚上感到飢腸轆轆。頭腦中生起「我想吃炸雞」的念頭，然後諮詢我的AI助理，它可以讀取生化信號預測我未來的情緒。它對我說：「事實上吃雞肉沙拉會讓你更愉快。」然後我就會去吃沙拉。在這種情況下，這一技術似乎很好。它讓我更健康，更快樂。技術拯救我們免於錯誤的慾望和需求。隨著時間的推移，「我」不復存在，因為我把身份外包給了生化分析師。

赫拉利：是的，正是這樣。

在這種情況下，我們將看到，決策不是來自神秘的靈魂，而是由大腦中的生物過程所決定。在過去，我們無法搜集數據並進行分析。所以人們想象自己身體里住著一個神秘的靈魂發號施令。從實際的角度來看，這是一個足夠好的假設。但是一旦你有能力把生化過程同大數據計算結合起來，你就會開始一場真正的革命，傳統的自由概念將不再有實際意義，演算法能夠比人做出更優的決策。

湯普森：這令人著迷。現在我認為這些演算法使我更接近我自己。如果健身追蹤器鼓勵我跑更多公里，或者娛樂演算法發現我喜好的歌曲，我會很開心。我自然喜歡快樂的狀態。

但隨著時間的推移，我的決策過程止於大腦信號和信號閱讀器的層面。「我」不再特別，不再神聖，個性也無從談起。我只是一堆信號的載體，由電腦進行精準控制。在這種安排下沒有「自我」的存在空間。

赫拉利：真正發生的是自我分裂。所發生的不是你更好地理解了你自己，而是自我的消解。到頭來你意識到自我並不存在。你不過是一堆複雜生化連接的集合。

你有看過電影《頭腦特工隊》（Inside Out）嗎？我認為這是流行文化對心靈理解的起點。幾十年來，迪士尼一直在作品中推行自由個人主義：不要聽從你的鄰居或政府，跟隨你的內心。但在《頭腦特工隊》中，主角小女孩萊莉的內心世界沒有一個核心身份。電影向兒童和父母們展示的是，萊莉是一個機器人，被頭腦中的化學過程所操縱。故事中災難性的一點是你意識到她內心並不存在所謂「真實自我」。在影片開始你可能將「喜悅」認作是萊莉的真我，但隨後你意識到所有這些情緒都不是萊莉的真實自我。不同來源之間的平衡才構成整個人格。

我認為這會發生的越來越多。向來為我們所珍視的自我存在觀念如今正面臨危險。

湯普森：讓我們再來談談工作的終結。

你用睿智又可怕的方式來看待大規模自動化的政治影響。在19世紀末，法國、德國和日本為其公民提供免費醫療。當時國家的目的並非是為了提高人民幸福感，而主要是為了加強國家的軍事和工業潛力。換句話說，福利是必要的，因為人口是必須的。你提出一個可怕的問題：當政府不再需要人口，未來福利會何去何從？

赫拉利：這是一個非常可怕的景象。這並非科幻小說，而是實實在在地發生著。

政府建立大眾社會服務系統背後的理由是為強大的軍事和經濟提供支持。那些已經在軍事上稱霸全球的國家不會再有饑渴的人口需求。經濟中的情況也類似。關鍵是動機：如果政府失去幫助人民的動機會怎樣？

在斯堪的納維亞，福利國家的傳統是根深蒂固的，他們或將繼續為大量閑散的人提供福利。但奈及利亞、南非呢？鼓勵政府為民眾提供服務的主要驅動力是國家繁榮昌盛的願景，因為實現後者的前提是要有大量健康聰明的公民作為基礎。換作在精英國家，人口將不那麼重要。

湯普森：最後一點很有意思。因為歐洲和美國的情況正好相反：人們不關心或不認為需要「精英」。川普當選和英國脫歐便是此趨勢下的產物。為什麼現在會發生這些事？

赫拉利：這是一個大問題。我沒有預見它會發生。觀察歐美政治局勢並非我的專長。不過，若是你從健康等客觀條件處著眼，美國的西歐的大多數人都有比過去更好的生活條件。但是他們覺得自己被推到邊緣失去力量。他們擔心後代的境遇不如當下。我認為這些恐懼可能是有道理的。但我不認為抵抗會解決問題。川普不會幫助阿拉巴馬州的選民重獲力量。

湯普森：美國人比以往更加富有，受過更好的教育，還有更好的保健和娛樂。但這些進步的事實並不能阻止事態發展。美國城市正在分崩離析，獲勝的川普豪言「我一個人就能解決問題」。

赫拉利：世界其他地區的崛起讓美國感到正在失去力量，在美國境內，川普的支持者感到自己的優勢不再。人們忽視了生活條件比以往任何時候都更優越的事實，大多數人都被衰落的恐懼圍繞。大多數人的幸福取決於他們的期望，而非他們的實際境遇。

湯普森：關於人類的未來有一個「全民基本收入」（Unconditional Basic Income）設想。生活中充滿神奇的迷幻藥和虛擬現實視頻遊戲，人們不再飢餓，也不再有痛苦。但同時人們也停止奮鬥。迪斯尼樂園裡那種為了勝景而進行的挑戰和冒險，被永久居住在樂園所取代。這是烏托邦還是反烏托邦諷刺？

赫拉利：大多數哲學家都會認為你的假設是一個反烏托邦。一個更糟糕的世界。

但你也可以認為，當下人們已經將生活的大部分時間花在虛擬遊戲中了。大多數宗教便是在現實生活之上疊加虛擬遊戲的產物。做好事得到獎勵，觸碰禁忌會被懲罰。全世界有數百萬人沉浸於這些虛擬現實遊戲中而不自知。那麼宗教和虛擬現實遊戲之間的區別是什麼呢？

最近我和侄子一起去捉口袋妖怪。我們在街上遇到另一群孩子，他們也在是在尋找精靈。為了捕捉同一個精靈，我的侄子甚至和對方起了爭執。儘管在我看來非常奇怪，但對孩子們而言這些看不見的精靈卻是非常真實的。

這讓我想到：這不正像巴以衝突嗎！雙方為了我所看不見的一些東西干戈不休。耶路撒冷建築物在我眼中只是堆積的石塊，但是在基督徒、猶太人和穆斯林心中那卻是聖城。他們會為了自己的想象赴湯蹈火。這同樣也是虛擬現實。

你的假設提出了一個深刻的哲學問題：生命的意義是什麼？歷史上只有不到百分之一的人對這類哲學問題感興趣。

湯普森：對。當整個鄉村的人正死於瘟疫，「什麼是尋求幸福的理想方式？」這類問題畢竟無濟於事。

赫拉利：是的。但是一旦你擺脫了飢荒和瘟疫的威脅，它就變成一個更實際的問題：生命的意義是什麼？如果你設計一輛自動駕駛汽車，你必須設計倫理演算法應對可能會出現的車禍場景。兩害相權，你會選擇撞向行人還是犧牲乘客呢？突然之間這成了一個非常實際的問題。一旦我們妥善處理了死亡和痛苦，古老的哲學就會成為問題的中心。