AI比核武器更危險？扎克伯格和馬斯克「懟」上了，矽谷大佬開始選邊站。究竟發生了什麼？

這兩天，因為人工智慧（AI）會不會傷害人類，臉書（Facebook）創始人扎克伯格與特斯拉CEO馬斯克「懟」上了。

事情得從美國州長協會夏季會議說起。

在這此會議上，馬斯克面對幾十個州長，語重心長，「人工智慧是人類文明存在的根本危險，它會對整個社會造成損害。」

馬斯克認為，儘管車禍、飛機失事、毒品泛濫和食品問題等會對小部分人產生傷害，但是沒有對人類整個文明構成威脅，而人工智慧的破壞力是全面的。

馬斯克：AI可能比核武器更危險

根據推特記錄，馬斯克首次對AI提出質疑，是2014年8月3日。當天，他發布推特，「我們必須對AI保持警惕，它們可能比核武器更加危險。」

有一種說法，那段時間，馬斯克正在閱讀牛津大學人類未來研究院教授尼克·波斯特洛姆（Nick Bostrom）的暢銷書《超級智能》。在這本書中，尼克·波斯特洛姆將機器智能視作人類「滅亡性的威脅」（Existential risk）。

此後一發不可收拾，只要有合適的機會，馬斯克總會表達擔憂，「機器人會搶走人類的工作，未來應該推崇全民基本收入制度，防止被AI搶走工作的人生活陷入困頓。」

扎克伯格：馬斯克非常不負責任

上周日，扎克伯格在臉書做直播，看熱鬧不嫌事大的網友向他提問：「馬斯克稱AI是未來最大的威脅，你如何看待AI？」

扎克伯格欣然作答，「馬斯克經常將AI威脅論掛在嘴邊，非常不負責任。」

兩個處不同領域的矽谷大佬，因為網友的提問，懟上了。

「那些對人工智慧持否定態度或者鼓吹末日論的人，並不是真的了解人工智慧。」扎克伯格在直播中樂觀預計，未來5到10年裡，人工智慧將給生活質量帶來巨大改善。

「人工智慧已經開始幫助診斷疾病！」

「無人駕駛汽車可以消除車禍！」

扎克伯格列舉了一些看得見的人工智慧紅利，「對於主張放慢AI技術開發的人，他們的想法是值得懷疑。」

蓋茨、霍金力挺馬斯克

事情還沒完。

北京時間7月26日，一位推特（Twitter）用戶轉發了扎克伯格的這段視頻，馬斯克竟然在下面評論：「我和馬克討論過這事，他對於人工智慧的理解有限。」

由於人工智慧蘊含巨大商機，因此就此話題，矽谷大佬沒少點評。

推特前CEO迪克·科斯特洛（Dick Costolo）7月26日接受採訪時表示，認同馬斯克的觀點，扎克伯格可能低估了人工智慧的潛在危險。

還有兩個知名的人物持「AI末日論」觀點，一個是微軟創始人比爾·蓋茨，另一個是著名物理學家斯蒂芬·霍金。

霍金表示，人工智慧將大量取代中產階級的工作，導致社會更加不平等。

比爾·蓋茨的擔憂是，也許幾十年後，機器的智能化將強大到人類無法妥善管理的水平。無獨有偶，比爾·蓋茨對暢銷書《超級智能》也比較推崇。

有意思的是，6月19日，該書作者尼克·波斯特洛姆在公開演講上說，「幾年前我寫了一本探討AI長期影響的書，給一些人留下了點印象。我想借這個機會說一句，我對此其實並沒有那麼悲觀」，「我花了好多頁去論述，一旦超級智能實現之後，哪些糟糕的事情將可能會發生，·······不意味著我認為這種悲觀的情況是更有可能發生的。」

小扎也不缺大佬支持

事實上，矽谷一些企業家、科學家認為，對AI的這類擔心有些過慮。

圖靈獎獲得主Rodney Brooks認為，沒有親身在AI領域工作的情況下，與馬斯克霍金等人一樣產生這樣消極的想法非常普遍。

蘋果聯合創始人斯蒂夫•沃茲尼亞克（Steve Wozniak）去年在接受採訪時稱，不擔心人工智慧，「一個原因是摩爾定律並不會讓這些機器人智能化到像人類那樣思考；另一個原因是即使機器人的思考能力超過人類，也無法擁有像人類那樣的直覺。」

無論是擔憂還是樂觀，已經無法阻止矽谷大佬停止開發AI產品了。對於這類AI倫理問題，英國阿蘭圖靈研究所（Alan Turing Institute）擔任科研主管Andrew Blake坦言，對AI領域倫理問題的研究，尚處於起步階段，「近兩年來，這一領域如透明性和公正性的實驗與論文開始大量湧現，而該問題由於人們均已意識到其至關重要性，充滿了緊迫感。」

據其透露，「圖靈研究院，開發了一個龐大的項目來探索AI中的倫理道德問題。一方面請來了哲學、法律方面的專家來聽取他們對此的看法，另一方面我們聚集科學來討論如何將這些倫理道德準則編入演算法之中」，「不過剛剛起步，科學家們對此的認知可能還不夠深思熟慮。」

尋找臨界點

在這方面，起步比較早的，算是谷歌。

2014年初，谷歌設立倫理委員會，確保人工智慧機器人技術不被濫用。

2015年，英國劍橋大學新建了一個研究中心，致力於人工智慧未來並旨在影響其道德倫理髮展。

2017年1月，在美國加州Asilomar召開的阿西洛馬會議上，包括844名人工智慧和機器人領域的專家們基於對AI和Robot迅猛發展的深切關注，聯合簽署了稱之為「阿西洛馬人工智慧原則」（Asilomar AI Principles），呼籲全世界的人工智慧領域工作遵守這些原則，共同保障人類未來的利益和安全。

其實，面對AI的迅速發展，只要對「人與人工智慧之間的臨界點在哪裡」依然充滿不確定性，這些擔憂、研究和聲明就不會消失。

▼ 好文推薦

• 王健林「不明覺厲」的輕資產戰略到底是啥？連萬達廣場也逃不掉被賣的命！

• 私募整風！多地證監局接連揪出「不規者」，所查問題的不靠譜程度絕對考驗智商

• 是誰告訴你，年化收益率不能高達四千倍了？可如果是深陷兌付危機的「15五洋債」，你還敢買嗎？