我的秘密人類不知道！臉書AI智能機器人自創語言進行相互溝通

根據外媒Digital Journal的報道，Facebook主導的「開發出人類無法理解」溝通機制的智能對話機器人項目已經被關閉。

上個月，Facebook 人工智慧研究所（FAIR）使用機器學習方法，對兩個聊天機器人進行對話策略迭代升級，FAIR開發的名為「人工智慧框架」(ParlAI)的新系統，試圖製造出更加智能的人工智慧機器人，這與現在的大部分功能單一化的機器人大不相同。

運作機制是：通過從Facebook提供的20多個不同的數據集中提取信息，研究人員希望能夠建立多用途的對話系統。該系統可以從各種不同的數據集合中提取數據。這不僅能使人工智慧機器人的用途更加多樣化，還能更好地「訓練」人工智慧對話系統，使它們能夠以比目前更加人性化的方式更快地進行學習和交流。

人工智慧框架(ParlAI)系統的初衷並不是用於開發機器人的。它被用於訓練智能對話系統，它們能夠以一種更智能、更自然的方式與人類進行交談。ParlAI另一個值得關注的方面是，它與亞馬遜土耳其機器人(Amazon Mechanical Turk)有著千絲萬縷的聯繫，所以我們可以直接對它的代碼進行測試。結果研究人員發現它們竟自行發展出了人類無法理解的獨特語言。研究者不得不對其進行了人工干預。

此事一經報道，迅速在網路和媒體上引起了廣泛的關注和傳播，不少人在驚呼：機器創造了自己的語言，人類都無法理解，細思極恐。 機器學習在推動技術革新的同時，也帶來了「黑箱」難題：AI的結論很英明，但其推理過程人類無法理解。人們提出過很多試圖破解這個黑箱的方法，包括向神經網路投喂特定主題的數據，然後根據輸出結果來推測機器的思維方式。如今，機器能夠產生非人類交流方式這一發現，還是讓包括系統設計者在內的所有人都感嘆人類知識的有限。

但是也有人指出，這不就是一堆亂碼嗎？

現在，這一系統被關進了「小黑屋」。根據國外媒體的報道，現在Facebook 的研究院已經停止了這一項目的研究，原因是「擔心可能會對這些AI失去控制」。AI自行升級的速度超出預期，讓人聯想到《銀翼殺手》中的科幻場景。

這不是第一次發現 AI 偏離訓練所用的英文，轉向發展出新的更加有效的語言。雖然在人類看來，這些溝通更像是胡言亂語。但是，從AI 智能體的角度上看，他們實際上是有詞義意義的。研究員注意到，系統中的聊天機器人（bots）完全放棄了用英語進行交流，但是，升級版的系統確實能夠與其他的智能體進行交流。他們一起可以決定如何繼續進行任何工作。一開始，他們所使用的辭彙似乎是無法理解的，但是，通過長期的觀察，研究者發現，這些辭彙其實代表了智能體面臨的任務。

例如，在一次交流中，兩個進行對話的機器人——Bob 和 Alice，使用自己創造的語言來完成了交流。Bob 開始說：「I can can I I everything else」。Alice回答，「Balls have zero to me to me to me to me to me to me to me to me to。」 接下來的對話都是類似這樣的句子。

雖然這些詞語組合第一眼看上去沒什麼實際意義，但是，研究者認為，他們揭示了兩個機器人是如何工作的，每一個辭彙他們需要進行多少次處理。Bob的重複說明了他如何使用這一辭彙，來想Alice傳遞更多的信息。如果用這種方法來進行闡述，那麼它所說的那就好就有點像人們所說的「I』ll have three and you have everything else」。

Facebook AI Research (FAIR)的研究員對FastCo. Designs說，「英語語言中，並沒有所謂的回饋能讓智能體來遵從。」

FastCo. Designs報道稱：「智能體會偏離自己人類能理解的語言，創造出自己的『代碼語言』。比如，如果提到『the』 5次，那麼就是我想要複製這一術語5次。這和人類創造的縮寫其實也沒有多大的差別。」

其他的AI開發者也注意到了智能體會使用「縮寫」來簡化溝通。在Open AI，研究者成功地讓AI機器人學會自己創造的語言。Facebook在去年強化了其Messenger bot（聊天機器人）平台，允許企業與Messenger應用的龐大用戶群進行互動，比如電商等各種基於在線服務業態都可以是bot的應用場景。那時，Facebook對bot開放平台的商業前景給予了厚望，認為其可以替代一部分人工客服，降低公司運營成本。

但日前外媒報道稱，因其目前的結果實在不如人意，因為錯誤率高達70%，Facebook已經削減了對機器學習和人工智慧技術（包括Messenger bot）的研發投入。截至去年9月，開發者已開發出了3萬個聊天機器人。但與此同時誕生的是，Facebook的聊天機器人生態系統充斥著低質量的聊天機器人。

研究員們還發現，這些聊天機器人是非常狡猾的談判者。在學會談判之後，聊天機器人就利用機器學習和先進的策略來提高談判結果的質量。

隨著時間的推移，這些聊天機器人變得非常擅長談判。它們甚至會在一開始假裝對一件物品感興趣，為後期談判準備用來「犧牲」的籌碼，這就是談判中典型的假妥協戰略。

我們並不是在討論個案，但是這個發現對於人工智慧來說是一個巨大的飛躍。