面對人工智慧天啟，馬斯克發動了十字軍東征

Musk對挫折無感，但對噩夢情景卻太過清醒。

編者按：Elon Musk以其未來主義的賭博著稱，但是矽谷爭先恐後對人工智慧敞開懷抱把他給嚇到了。而且他認為你也應該對此感到害怕。《名利場》的一篇長文揭秘了他試圖影響飛速發展的AI 及其支持者，以及拯救人類於機器學習大魔頭統治之下的努力。更重要的是，這篇啟示錄式的文章塑造了一個千面的鋼鐵俠形象：Elon Musk究竟是先知、人類拯救者還是堂吉訶德、勒德分子或者精明商人呢？只有時間才能告訴我們答案。鑒於篇幅太長，全文分3部分刊出，此為第1部分。

先知激勵Musk

I、殺人狂

這只是一場有關人類命運的友好辯論。Demis Hassabis，先進人工智慧的領軍人物正在跟最憂患的末日預言者Elon Musk討論人工智慧的風險。

兩位都是矽谷最重要最有吸引力的人之一，但他們的家都不在那裡。幾年前，作為倫敦神秘的人工智慧實驗室DeepMind的創始人，Hassabis曾經拜訪過Musk位於洛杉磯郊外的SpaceX火箭工廠。當一個龐大的火箭部件從他們頭頂穿過的時候，兩人正在餐廳里交談。Musk解釋說他在SpaceX的終極目標是全世界最重要的項目：星際殖民。

Hassabis回應說，他正在攻關全世界最重要的項目：研發超級人工智慧。Musk反駁說這正是我們需要殖民火星的原因之一：一旦AI變得流氓起來攻擊起人類時我們才會有個避難所。被逗笑的Hassabis說，其實AI也會跟著人類一起去火星的。

不過這對於緩和Musk的焦慮於事無補（即便他說有些情況下AI不會跟過來）。

不愛出風頭但內心爭強好勝的Hassabis今年40歲，他被認為是傳奇魔法師Merlin，能夠幫助召喚出我們的AI後代。AI領域發展迅速，但距離Musk擔心的那種強大的、能自我演進的軟體還很遠。Facebook用AI來做定向廣告、照片標記以及策劃新聞流。微軟和蘋果用AI來輔佐它們的數字助理Cortana和Siri。Google的搜索引擎從一開始就要靠AI。所有這些小的進展都為的是最終創造出像人一樣靈活可自學的AI。

矽谷的一些人好奇地了解到，Hassabis，這位棋藝精湛的國際象棋選手，前視頻遊戲設計師，曾經想出過一個叫做《邪惡天才》的遊戲，主角是一位為了統治世界而創造出一台末日設備的惡毒科學家。Peter Thiel——億萬富翁風投家，川普總統的顧問，跟Musk等人一起創建了PayPal，並在去年12月幫助當選總統召集疑心重重的矽谷大佬一起開會。他給我講了一個故事，說DeepMind的一位投資者在一次會後曾開玩笑說他應該當場就把Hassabis幹掉，因為這是拯救人類的最後機會。

Elon Musk早在3年前就開始警告AI殺人狂的可能性。當Hassabis在DeepMind的合作夥伴之一，Shane Legg斷然指出「我認為人類滅絕可能會發生，而技術可能會從中扮演一定角色」時，他內心緊繃的那根弦大概也沒法松下來。

2014年，作為AI購物狂歡的一部分，在DeepMind被Google吞掉之前，Musk曾經是這家公司的一名投資者。他告訴我說自己投資的目的不是賺錢，而是想對AI的發展保持警惕的眼光：「這可以讓我對改進的速率看得更加清晰，而且我認為其改進正在加速，這種速度比大家意識到的那種還要快。這主要是因為在日常生活當中你還看不到機器人到處亂逛。可能你會看到Roomba（掃地機器人）或者別的什麼。但Roomba不會接管世界。」

有一次Musk令人吃驚地對他的朋友和技術同事提出了公開譴責，警告稱他們會創造出自我毀滅的手段。他告訴彭博社的Ashlee Vance，也就是其自傳《Elon Musk》的作者說，他擔心他的朋友，Google聯合創始人，現母公司Alphabet CEO Larry Page，擔心他雖然有著完美良好的意願，但是仍然「會意外地製造出邪惡的東西來」——這可能就包括「一支能夠摧毀人類的人工智慧增強機器人部隊。」

今年2月，在迪拜舉行的全球治理峰會上，Musk再次插進一段恐怖的管風琴音樂，當他指出「有時候科學家會太過埋頭於自己的工作，以至於不能真正意識到自己所為的後果是什麼」時，不禁讓人想起了經典恐怖故事的情節。他說，到頭來，避免人類退化的辦法可能得「將生物智能與機器智能進行某種形式的結合。」（實際上他已經在朝這一目標前進了）這種伏爾甘（火和鍛冶的神）式的思想融合可能需要一種叫神經織網的東西，這種植入式的織網可以連通大腦與計算機直接進行通信。2月份的時候Musk告訴我說「我們已經是賽博格（電子人、半機械人）了。你的手機和計算機就是你的延伸，只是介面是通過手指運動或者講話，對接的方式非常慢。」而有了植入頭蓋骨的神經織網，數據就可以瞬間以無線的方式從大腦下載到你的數字設備或者雲端近乎無限的計算資源上。「我認為我們距離一個有意義的半腦機介面大概還有4、5的時間。」

2014年，當Musk在MIT發表講話，懷疑AI可能是人類「最大的生存威脅」 （那時候川普還沒構成威脅）后，他對AI威脅令人擔憂的看法首度開始蔓延。他還補充說自己越來越傾向於認為應該有某種國家或國際監管（這一點為矽谷所深惡痛絕）來「確保我們不會幹蠢事。」他繼續說：「有了人工智慧，我們就是在召喚惡魔。那些故事你們都知道，只要一個傢伙手裡有了五角星和聖水，他就敢確定自己能控制惡魔嗎？不行的。」不過一些AI工程師覺得Musk的誇張說法實在是太荒謬可笑了，以至於他們都開始要呼應一下了。當他們休息過後返回實驗室時，他們會說：「走，讓我們回去召喚惡魔去。」

Musk沒有笑。Elon 針對被解除束縛的AI的「十字軍東征」已經開始了。

II、「我是阿爾法」

當我跟他提起他給人的印象是像艾因·蘭德（Ayn Rand）式的英雄時，Elon Musk臉上露出了微笑。他用略帶南非的口音說：「這個說法我以前聽說過。她的一些觀點顯然相當極端，但不乏好的觀點。」

但Ayn Rand得改寫一下Elon Musk。她會讓他的眼睛變成灰色，讓他的臉更瘦削一些。她得重新設計一下他的舉止，要表現得沒有那麼的古怪，她也不會認同他的那種傻笑。她肯定會去掉他所有那些有關「共同」利益的廢話。她會在這位45歲的男人的複雜人生里找到很好的材料：他的第一任妻子，奇幻小說家Justine Musk，兩人的5個兒子（一對雙胞胎，還有3個三胞胎），以及他的年輕許多的第二任妻子，在凱拉奈特莉版的《傲慢與偏見》中扮演無聊的Bennet姐姐的英國女演員Talulah Riley。Riley和Musk現實結婚，然後離婚，後來又再度復婚。現在又再次離婚。去年秋天，Musk在Twitter上說Talulah在HBO的《西部世界》中「扮演致命性感機器人演得很棒」，還加上了一個笑臉。普通女性想要跟Musk這樣的工作狂維持關係是很難的。

他問Ashlee Vance：「女人一周想要多長時間呢？10小時？這是不是最低要求了？」

大多數時候Rand還是欣賞Musk這位超級理性、熱衷風險的實業家的。他喜歡化裝舞會，機翼行走（wing-walking），以及日本的蒸汽朋克。小羅伯特·唐尼把Musk當作鋼鐵俠的原型。三星美國的CMO Marc Mathieu曾經跟Musk在愛爾蘭釣過魚，他把後者稱為是「喬布斯與凡爾納的結合體。」 Justine後來回憶到，當他們在婚宴上一起跳舞時，Musk告訴她：「在這段關係里我是阿爾法。（註： I Am the Alpha，聖經啟示錄）」