臉書聊天機器人發展出人類無法理解的語言

據《大西洋月刊》網站報道，Facebook在實驗中讓兩個AI聊天機器人互相對話，發現機器人竟逐漸發展出人類無法理解的獨特語言。

Facebook人工智慧研究實驗室使用機器學習來訓練聊天機器人程序。研究人員兩個機器人彼此對話，結果發現機器人竟逐漸發展出了不同於人類語言的對話，研究人員不得不對其進行人工干預。

換句話說，兩個機器人使用機器學習進行對話策略迭代升級，最終將導致機器人以人類無法理解的語言進行交流。AI自行升級的速度超出預期，讓人聯想到《銀翼殺手》中的科幻場景。

Facebook在研究報告中指出，機器人有時可以很好地勝任客服談判的角色，甚至懂得使用「先假裝而後承認」的對話策略。但是實驗中機器人自行發展出新語言讓人不安，人們或許可以從中一窺未來世界的樣子。

語言被認為是人類獨有的技能。Facebook的聊天機器人的表現刷新了人們的認知。

機器學習在推動技術革新的同時，也帶來了「黑箱」難題：AI的結論很英明，但其推理過程人類無法理解。人們提出過很多試圖破解這個黑箱的方法，包括向神經網路投喂特定主題的數據，然後根據輸出結果來推測機器的思維方式。如今，機器能夠產生非人類交流方式這一發現，還是讓包括系統設計者在內的所有人都感嘆人類知識的有限。

「未來的工作還有很多潛在可能，特別是讓機器理解更多推理策略，以及在不偏離人類語言的情況下提高表達的多樣性。」Facebook研究員在報告中寫道。

文章鏈接：智能製造網 http://www.gkzhan.com/news/Detail/101319.html