天啦嚕！Facebook怒了，原因居然是因為這個…

點擊上方「Vivi闖矽谷」可以訂閱哦

機器的崛醒以及和其創造者人類的對抗一直是電影和新聞樂於追蹤的一個共同主題。

前有《終結者》，後有《我，機器人》，《西部世界》，人們一直樂此不疲，……

這也就是為什麼，最近的一些新聞標題會用Facebook AI研究人員的「正處在恐慌」，他們被「強迫」，或者說不得不，「殺死」那些開始自己用自己的語言對話的「變態的」機器人。。。這樣驚悚的語言描述Facebook實驗室里發生的一件小事。

其實這樣的新聞標題和事實真相相去甚遠。

Facebook的一個實驗確實創造出了語言錯亂的機器人，但是，這並不驚人，也不是什麼警示或者說人工智慧智力覺醒。並沒有人在Facebook的AI實驗室因此而恐慌，而我們也不應該去害怕。

但，媒體失當的報道對於我們的未來而言是有失妥當的。隨著機器學習和人工智慧變得更加普遍，具有更強的影響力，了解這些技術的潛力和事實狀況變得至關重要，尤其當演算法在戰爭領域，刑事司法以及勞動力市場上開始發揮核心作用后，尤其如此。

Facebook的AI研究實驗室真實發生的事情是這樣的：研究人員開始研發可以和人類談判的聊天機器人。他們認為，談判和合作對於機器人未來和人們更加密切的合作關係來說是非常必要的。他們開始玩一個小型的，簡單的遊戲，其中兩名玩家被告知要在他們之間分配一些物品，比如帽子，球和書。團隊教他們的機器人使用兩個步驟的程序來玩這個遊戲。首先，他們讓系統」聽「人類之間數千場遊戲的計算機對話，使系統get到一些談判語言的感覺。然後，他們允許機器人使用試錯的方法----用強化學習的技術，也就是幫助谷歌的Alpha go打敗人類頂尖棋手的技術，來磨練機器人談判的戰術。

當兩個機器人使用強化學習來一起玩的時候，他們突然停止使用人們可以識別的句子。或者，正如Facebook研究院在技術報告中大致描述的那樣：「我們發現更新兩個代理人的參數導致他們偏離了人類語言。」 （其實就是機器人突然不說人話了。）一個場讓人「難忘」的互動開始了：

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

哈哈，看懂了嗎？

明明是很萌很蠢的事情，怎麼被描述成了末日。

這種奇怪的對話有時候居然產生了成功的談判結果，這，顯然是因為機器人學會了使用重複的技巧來傳達自己的需求。

想想挺有意思的，但也是一種失敗。

Facebook的研究人員希望研發的是可以和人一起玩耍的機器人，所以他們重新設計了對機器人的培訓計劃，以確保他們「說人話」。

其實就是這麼點小事情，就居然引發了關於研究人員關閉實驗室這樣的令人恐懼的頭條新聞。

《太陽報》的頭版頭條甚至提出：Facebook這一事件簡直就是《終結者》的迴響，要知道在《終結者》里具有自我意識的人工智慧系統可是對人類發動了具有毀滅性的戰爭。。。。

《太陽報》里報道的跟事實相去甚遠。

哈哈哈哈。人類社會的荒誕比機器人語言錯亂還有趣。

其實Facebook的這個簡單的機器人研發只是在完成一件任務：再簡單的遊戲里儘可能地積累積分。這就是他們能做的。因為他們並沒有被設置成堅持英文的語序或者愈發，所以，他們「不說人話」完全不意外。

其實這不是Ai研究人員第一次創造出能夠自己提高／改變溝通方式的機器人。媒體報道Elon Musk支持的非營利組織OpenAI在今年三月份就提及了能夠自己發明簡單語言的機器人。

Facebook回應全文

媒體失實的報道直接氣得研究人員爆粗口。。。。

另外，另一研究人員表示，媒體應該對此感到羞愧。。。

facebook研究人員炮轟失實報道

Facebook此番對於媒體的報道失實感到非常失望，研究員Dhruv Batra周一表示，媒體曲解了自己的工作，而且媒體報道中涉及的計算機科學文獻中的例子早就過時了。

Facebook的實驗室「意外事故」其實並不是什麼可怕的事情，反而證明了當下人工智慧的局限性。目前的」暗箱操作「下的機器學習系統限制了自身的有用性和實力的發揮。這也就是為什麼一些研究人員正在努力使用人的反饋，而不僅僅是代碼來定義人工智慧系統的目標。

Facebook的實驗中最有趣的部分實際上是：一旦機器開始說英語，他們確實有能力和人談判。這聽起來挺不錯的，因為，你通過和Siri或者Alexa交談或許已經發現，計算機並不擅長一來一回的對話。

有趣的是，Facebook的機器人實驗現實他們會對他們不想要的東西表示出興趣，然後在交易中假裝放棄這些物件以確保自己完成交易。媽呀，這才是真正可怕的事情，機器人，可以說謊！不，其實你不必擔心，他們只是能夠在嚴格限定的環境中能夠實現人類智慧的一星半點而已。和人類的自主學習或者對世界的理解還差的遠呢。

機器學習研究是迷人的，充滿潛力的，並且正在改變我們的世界，但《終結者》的故事終究還只是小說而已。別怕。

相關閱讀

人工智慧

「一個都不能少」，谷歌AI的秘密信條竟然是...

Vivi闖矽谷

We Empower Innovation

用創新的力量改變世界