AI會不會終結人類文明？馬斯克與扎克伯格吵起來了

圍繞AI，科技富豪馬斯克與扎克伯格公開論戰，馬斯克認為，Facebook CEO扎克伯格的理解「有限」。

月初時，特斯拉、SpaceX CEO馬斯克發表言論，他呼籲大家提前行動起來，對AI進行監管，因為馬斯克相信AI「會對文明的存在構成本質威脅」。

本月，馬斯克告訴一群美國官員，說潛在威脅並不是假想出來的，他們應該對AI進行監管。

馬斯克稱：「我一直聽到警報在響，在人們看到機器人跑到街上殺人之前，大家不會知道如何反應，因為這樣的事看起來虛無縹緲。」

多年來馬斯克一直在發出這樣的警告，他擔心人類會成為第二文明，未來AI才是主導，或者我們可能會陷入《終結者》一樣的處境，到時機器會起義。

周日時，扎克伯格表達了自己的觀點，他認為這種警告「不負責」。

扎克伯格當時在Palo Alto的家中通過Facebook Live直播，有人向他提問，於是他表達了自己的看法。一位觀眾問：「最近媒體採訪了馬斯克，我看了報道，對於未來，他的最大擔憂是AI。你對AI有何看法？它會對世界造成怎樣的影響？」

扎克伯格的回答相當坦率，他說：「關於這個問題我有很強烈的看法。我是一個樂觀主義者。總的來說我很樂觀，我認為大家可以開發一些好東西，讓世界變得更好。有人是反對者，他們宣揚末日論調，我真的無法理解。這種看法很消極，從某種意義上講，我甚至認為這樣說是相當不負責任的。」

在扎克伯格看來，AI的反烏托邦色彩並不濃重，它可以診斷疾病、驅動無人駕駛汽車，可以拯救許多人的生命。

「每一次當我聽到有人說AI未來會傷害人類，我就會想：技術總是可以用在好的地方和壞的地方，開發時你應該小心一些，你應該對自己開發的東西小心一些，對它的使用小心一些。」

「有人主張說開發AI的速度應該放慢一些，我認為這種主張大有問題。如果你反對AI，你就是反對更安全的汽車，這些汽車不會發生事故，你還在反對更好的診斷技術，當你生病時，這種技術可以給予更好的診斷。」

扎克伯格稱：「致人死亡車禍是排名很靠前的一個原因，現在仍然如此，未來如果能用AI終結車禍，就會有很大的改善。」

一天之後，馬斯克在Twitter上反駁，他說：「我與馬克討論過這個問題，他對這個問題的理解很有限。」

AI領袖們普遍認為，還要再過幾十年計算機才能達到人類智力水平，還有一些人則認為，那一天根本不會到來。不論怎樣，專家們相信如果計算機變得像我們一樣聰明，它們很快就會變成「超級智力」（superintelligent）。

這不是馬斯克與扎克伯格第一次展開論戰。去年9月，SpaceX曾嘗試發射一顆互聯網衛星，讓Facebook在非洲推廣Free Basic項目。然而獵鷹9號火箭爆炸了，摧毀了火箭與貨物，也就是AMOS-6衛星，原本Facebook想用這枚衛星給非洲農村地區提供互聯網服務。

扎克伯格不太高興，他在Facebook頁面上說：「我在非洲，聽到SpaceX發射失敗，毀掉了我們的衛星，我相當失望，衛星可以提供互聯網連接，這樣許多企業家與非洲大陸的每一個人都能使用。」

在新的論戰中，扎克伯格佔據上風，因為在科技行業他的觀點十分流行：你沒有辦法向矽谷扔一塊石頭卻不傷害某個人的AI平台。現在公眾開始理解到AI和機器學習的好處，主要是通過數字助手感知的，比如Alexa、Siri。大家會忽略馬斯克的擔憂，甚至會認為他是在胡說。事實上，我們應該警惕。

以目前的AI技術水平而言，「超級智力」不是主要的問題。不過馬斯克的擔憂是正確的，未來AI會超越人類。如果AI開發未經審查，後果不堪設想，它與家庭的距離很近，近到超乎你的想像。

暫時將「天網」拋在一邊。要想了解當前AI技術的利弊，最好看看安迪·魯賓（Andy Rubin）的Essential，它的目標是成為智能家庭的「通用翻譯器」。魯賓的計劃是這樣的：開發一款手機，推行一堆實用的智能家庭項目，讓它們（以及平台Ambient OS）兼容一切。

魯賓的夢想比我們在手機上使用App更超前，甚至超越了平台式解決方案，比如蘋果Home、谷歌Weave。在Essential的世界里，房間里的所有一切都與互聯網連接，Ambient OS從你的交互與輸入中學習，它可以在任意給定時刻預測需求，為你提供服務，根本不用考慮設備、核心軟體是誰開發的。

接受《連線》雜誌採訪時魯賓是這樣說的：

「它知道你想要什麼，因為它會觀察你，不斷學習，當你穿上鞋子時它就會給汽車加熱，因為穿鞋是你早上在家裡做的最後一件事。當你說：『告訴Anna是時候吃晚餐了。』系統就會知道誰是Anna，她在哪個房間，知道用哪個音箱通知她。要實現這樣的目標，唯一的辦法就是讓一切互聯。」

魯賓的夢想很有魅力，雖然離發生還有很多年的距離。不過大多人都認為它最終會實現，到時連接的等級會高很多，收集的數據也會多很多。

用物理系統（比如房屋）處理所有與某個人有關的交互活動，就會形成新型數據，有時它叫作「物理圖」。分析一個人或者一個家庭的物理圖（處理收集的數據），這樣魯賓、扎克伯格的夢想才能變成現實。

如果我告訴你，設備製造商、你的ISP會查看數據，想查看就查看，而且還會與其它人分享數據，又會怎樣？現在還沒有發生。不過如果某一天你的所有設備都與互聯網連接，發生這樣的事就是極有可能的。

將計算機組成網路，監視預測人類行為，這是一項了不起的成就，而且它會變得更好。除了服務人類，AI還可以操縱人類，有時我們甚至都無法察覺。這就是黑暗的一面，此時「天網」將會無處不在。