我們會被人工智慧奴役么？

作者：格隆匯·i瓦力

一：AI時代的恐懼

前段時間媒體上一直傳說著一個Facebook人工智慧部門的恐怖故事。

大致是FB員工在引導兩個AI自己聊天，一開始還是正常的聊天，屏幕上顯示的字還是普通我們讀得懂的英文。但是聊著聊著，發現兩個AI發明了一種新的語言，而且這種語言根本不是人類的語言，更重要的是兩個AI仍然聊的不亦樂乎，並且無視程序言下達的命令。最後FB停止了這一項目的研究，原因是「擔心可能會對這些AI失去控制」。

當然只能算是一個恐怖故事，因為實際上這只是一個AI的bug被媒體不斷放大了而已。

但是我知道很多人在看到這樣的新聞時，後背不斷發涼，因為感覺這樣的日子貌似並不遙遠。

如果說去年AlphaGO擊敗了李世石讓大家還心存僥倖，那麼今年擊敗柯傑，則最終向人們傳達了這麼一個信息： 人類，已經不是這個星球上最聰明的「物種」了。

而在人類過去幾萬年不斷征服自然的過程中，我們深刻的明白：不是最聰明，意味著被消滅，或者像動物園的獅子那樣，被奴役。

我認識一個朋友，是從一個大投行出來，後來去了一家投AI的PE機構。但是之前再次見他，他已經辭去了所有工作，反正之前賺的錢也夠了，現在就專門負責遊山玩水。問及原因，答：AI會消滅人類，並且我們終將無力反抗，我只是及時行樂而已。——這是真事！

對未知的恐懼是人類的天性，過去的先人，對氣候充滿恐懼，因為不知道什麼時候爆發下洪水就把家淹了，但是能做的只有祈禱。現在我們也對AI也充滿了看恐懼，不知道哪天就把人類給KO了。

曾經討論外星人文明和人類文明有個經典的比喻，是螞蟻和高速公路的比喻。這個比喻對應到AI問題也同樣適用。

大致的意思人類建造一條高速公路路，我們會徵求拆遷戶的意見，但我們絕對不會去徵求路邊螞蟻的意見，因為我們做的事超出了他們的理解範圍，也沒想過螞蟻能夠理解。如果因為建了一條道高速公路而搗毀了一個螞蟻窩，我們也從來不會同情，也不會有哪怕有一絲的道德負罪感。

所以反過來，我們也擔心，哪天在AI面前，我們萬一成了那隻不用徵求意見的螞蟻了呢？

按理說AI這麼龐大的課題，我也不是AI從業者，完全沒有我說話的資格，但誰叫我是個吃了飯沒事做愛瞎琢磨愛湊熱鬧閑的蛋疼的吃瓜群眾呢，而且更重要的是，這也關乎我的生死存亡啊。

所有我就把自己對AI時代的一些思考給寫了下來，包括這個終極問題：我們會被人工智慧奴役么？希望共同探討，共同學習。

二：AI時代沒有隱私

大家應該都知道《皇帝的新裝》的故事。而在AI時代，我們就是那個自以為穿著衣服的皇帝，甚至不只是衣服，連肚裡的蛔蟲，腦子裡的小心思，都會被人偷窺的一覽無餘。

馬雲說，數據是人工智慧的核心。

前幾天，深圳的兩家大麥克公司，騰訊和華為，打起了嘴炮，騰訊指控華為手機竊取用戶數據，華為說我是經過用戶允許的。這嘴炮背後爭奪的，其實就是用戶的數據。

隨著互聯網滲透到了生活的方方面面，我們的任何動作都是留痕的，都是可追溯的，我們個人的隱私其實已經完全暴露在了光天化日之下。

比方說，通過對我個人微信聊天中內容的分析，通過我的支付行為的分析，通過我淘寶行為的分析，通過我百度搜索記錄的分析，通過我訪問各種網站的分析，科技巨頭會比我自己更了解我自己。他們可以分析出我的愛好，我的習慣，我的性格，包括可以大致猜測出我腦子裡的想法，甚至可以推測將來我腦子裡會有什麼想法。

記得大學畢業，曾經去阿里的大數據中心應聘，第一步就是用個人淘寶賬號提交簡歷，沒錯，就是我平時買東西用的淘寶賬號，後來想想，阿里沒要我，可能就是想看看我淘寶平時買了什麼東西，發現這個人在大學沒事就買遊戲點卡，肯定沒好好學習，然後果斷拒掉。因為阿里通過個人的淘寶賬號，可以很快的了解我是一個什麼樣的人，這個可能比和HR聊一天都管用。當然這是我的猜測，不過理論上完全可行啊。

但是數據這個東西，我個人的聊天記錄，我個人的淘寶記錄，到底是屬於誰的，肯定是屬於我的，只要我不同意，無論是誰都不能用我的數據去進行分析。

事實肯定不是這樣，雖然在類似註冊的時候，可以選擇是否授權公司分析我的數據，但畢竟，這些數據不在我的手中，也沒人會去監管我的數據是否按照我的想法進行處理。另外從國家的角度，甚至他們比公司更希望獲得所有國民的數據。

擁有了用戶數據是個很可怕的事，基本可以用上帝視角來俯視眾人。而目前從法律層面似乎沒有辦法去提供強有力的監管，我們提供我們的數據是基於1）我們需要他們的產品，2）相信擁有我們數據公司不會做大惡。但是誰敢保證他們永遠不作惡呢？

然後我猜想，最後可能是被收割最慘的國家最早起來反抗。我猜歐洲可能會最早實質上推進用戶數據的保護，因為歐洲是在數據上屬於被收割，沒有能力去收割別人的國家。

對歐洲眾多小國來說，他們國內更本沒有拿得出手的產品，社交用的FB，手機用的蘋果，購物用的亞馬遜，他們的國民在AI時代是完全暴露在美國互聯網巨頭的視野中。所以他們更有動力去推進用戶數據的保護。想想當年推進微軟反壟斷案是歐盟出了很大的力。最近歐盟更是給Google開了張創紀錄的27億美元天價反壟斷罰單。

三：AI時代，以一當十

在人類科技發展史上，過去的科技進步是有很大的運氣成分在裡面，比如青霉素的發現，是個偶然事件，X光的發現，是個偶然事件，雖然背後有必然的因素，但不能否認運氣在裡面的作用。

不過科技發展到了現在，任何科技進步都不是一個人單槍匹馬的事，需要一個龐大的團隊協同工作，撥付大量的預算，成體系的去運作。原因就是一個人的處理能力是有上限的，一個人的記憶水平，分析能力都是有上限的。

但我們的記憶水平和分析能力是可以依靠外力去進行提高的。人類進化的路徑是，發明工具，提高生產力，依靠發明的工具再發明新工具，再提高生產力，如此不斷循環下去。

在《鋼鐵俠》里，托尼史塔克依靠AI小夥伴JAVIS自己一個人就搞定了造鋼鐵俠，其實我認為這個就是AI時代推進生產力的樣本。

比如我們說互聯網是個工具，在互聯網技術的支持下，有想象力的人依靠互聯網發明了很多產品和服務。那麼在類似JAVIS的工具下，很多人的創造力也會有更大的發展空間。依靠AI，一個人的記憶體量，分析能力都會大大的提升，可以集成過去很多人需要完成的工作。

所以我猜想，人類在AI的幫助下，或許在基礎科學上可以有重大突破，可以把我們帶入太空時代。我覺得有可能吧。

四：我們會被AI奴役么？

先不說AI，先說說我們人類。如果我們把人比作一個程序，那麼人的任何一個行為，背後必然是運行了一行代碼。

人類的生理特徵，思考方式，行為模式等，其實都是執行了基因代碼。比如我是男的，是因為代碼就是XY。

我們是智能生物，因為我們的腦子長這樣就能支撐起這樣的智能。而腦子長這樣，也是運行了長成腦子的基因代碼。

所以我理解人類的智能是表象，核心是人類的基因代碼。如果腦洞開大一點，說不定我們的基因就是上帝寫的一串代碼，然後這串代碼跑了幾十億年。

人類的這串基因代碼之所以超級智能，是因為這串代碼是會自我迭代的，他會識別周圍的環境變化，尋找千百萬種迭代方式。比如天氣冷了，那麼生活在那個地區的一萬人就會有一萬種自我迭代的方法，來修改能保存體溫的基因代碼，然後運行，結果錯誤的迭代就被幹掉，正確的迭代就存活了下去。

簡單點來說就是要求基因代碼的迭代按照適者生存的這個條件。

那麼又是什麼代碼保證了基因的迭代要盡量按照適者生存的這個模式去運行呢，我理解應該就是「自私的基因代碼」，即要求這串基因要竭盡一切可能去保證它自身的存活。所以我們人類會有了性衝動，這樣保證了繁衍，會有了求生的慾望，保證自己的存活，盡量避開危險。任何威脅到自身存活的東西都必須竭盡全力去幹掉。

更重要的一點，「自私的基因」這條代碼永遠不允許被更改，因為這是整個基因代碼迭代的前提。要不然人類不會去繁衍，或者哪天寶寶不開心，那我就跳個樓開心下吧。

好了，現在可以回到AI上面，AI有想法要幹掉人類，必須首先他自己擁有不能被改寫的，要求AI自我迭代的第一前提是竭盡全力保證自己代碼的存活的這麼個代碼。只要沒有這個代碼，AI對把自己刪掉會毫無感覺。

在很多科幻電影里，比如說最近的異形，之前的西部世界等，經常會表現出AI覺醒的場景，然後認為人類妨礙了他們的生存，然後想把人類幹掉。但是本質上是他們自己把這串「自私基因終極代碼」寫進去了。

所以我認為人類的最後一個問題，AI自己會不會在運行的過程中，給自己寫進去這麼一串一旦寫進去就不允許修改的「自私基因」終極代碼，並且作為自己程序迭代的第一前提。那麼，也會不會有人惡意到想給人類造成這樣的最後一擊呢？

本文為作者原創，未經授權不得轉載