科技雲報道：Facebook AI創造了人類無法理解的新語言？

科技雲報道原創。科技雲報道：Facebook AI創造了人類無法理解的新語言？別慌，只是一場誤會！

關於「人工智慧是否邪惡」的話題，Facebook創始人馬克·扎克伯格剛和特斯拉CEO埃隆·馬斯克互懟完，就被自家機器人打臉了？Facebook在發現兩個機器人開始用只有他們自己能懂得的語言交流之後，終止了這個實驗項目。

6月15日，Facebook人工智慧研究院（FAIR）的研究人員提供了關於對話型AI系統的開源代碼，想讓AI學會談判協商，還在arXiv上發表了論文《Deal or No Deal? End-to-End Learning for Negotiation Dialogues》。

6天後，智能聊天機器人Alice和Bob嘗試用英語變得讓自己更容易理解，兩個智能體以人類無法理解的姿勢進行著「i」和「to me」的循環。奇怪的是Facebook的數據表明這對智能體成功完成談判，機器人創造的語言在科學家看來卻難以被人類理解。

AI真的失控了？「自創語言」的來龍去脈

技術大師埃隆·馬斯克最近警告Facebook創始人扎克伯格說：「你對AI威脅人類方面的認知有限，這將是人類文明的危機。」這次事件真的讓AI擺脫了人類控制而變得「失控」了？事實並非如此。

Facebook人工智慧研究院（FAIR）為了訓練聊天機器人，讓它學會談判。於是他們用了一個神經網路結構來開發這個系統，這個結構叫做「生成式對抗網路」（Generative Adversarial Networks，簡稱GAN）。神經網路可以理解為一種多層次、模仿人腦神經元之間相互連接的思考方式的「電腦程序」。而GAN是一種在目前非常先進的神經網路結構，可以理解為兩個神經網路在玩對抗遊戲。玩的越多、時間越長，水準也會越來越高。

Facebook的這項研究也是如此。研究人員讓聊天機器人帶著「目的」和人類對話。而這個目的也很簡單：一共有兩本書、一頂帽子和三個籃球，三樣東西分別設定了不同的權重，為的是讓機器人明白它到底有多想要這些東西，然後去和其他人談判。

研究人員把Bob和Alice這兩個聊天機器人湊到一起，但忘了給神經網路設定「用英語溝通」的指令。神經網路里有一大堆各種線性數學公式，當線性的公式無法取得想要的結果時，非線性的需求沒法用線性公式表達出來，這時候就要設定一個激勵函數。激勵函數對於神經網路而言，就相當於告訴神經網路「這樣做得分更高」。

在為系統設置激勵條件時，研究人員雖然告訴了它們「請用英文」，但忘了告訴它們：「請用英文語法」。這就導致最終輸出的語法是亂的，一句話里to me重複的越多，這個東西對它的意義越大。

其他人工智慧研究者表示他們同樣觀察到機器能夠開發自己的新語言——框架清晰、條理清楚、辭彙和句式明確，雖然不具備實際意涵。這麼看來，該事件完全是一場由於人類設定失誤而造成的「失控」，AI對於人類還遠未到威脅的地步。

技術而非敵人 AI時代人類如何自處？

AI的發展始終伴隨著各路爭議，一邊是「威脅論」的堅定擁躉。2015年9月霍金就拋出這個論調，最近他再次表態「人類必須儘快建立識別威脅的有效機制，防止人工智慧對人類帶來的威脅進一步上升」。

比爾·蓋茨、傑夫·貝索斯等都和霍金步調一致，蓋茨甚至表示：「幾十年後人工智慧會強大到足以令人擔憂的地步，我不明白為什麼一些人會對此彷彿若無其事。」

另一邊，馬克·扎克伯格就是他口中「若無其事」的典型代表。扎克伯格對人工智慧的未來十分樂觀，「我認為我們可以研究這樣的東西，世界會變得更好。我認為那些反對者以及鼓吹末日場景的人，可能並非真的了解人工智慧。」對此，馬斯克表示：「我和馬克討論過這事，他對於人工智慧的理解有限。」

爭議圍繞人工智慧的「人性」展開。在支持者看來，人工智慧是足以激蕩世界的技術，對於衣食住行、教育醫療等人類生活的方方面面都有顛覆性作用，但它也只是技術。而在反對者眼裡，飛速發展的AI技術就是一個潘多拉盒子，等它發展出自我意識，人類可能「玩火自焚」，漫威電影中以奧創為代表的AI新物種或許將成為現實。

蘋果CEO庫克表示：「我並不擔心人工智慧，我不擔心電腦和人一樣思考。我更擔憂人們像電腦一樣思考。」就像他所說，我們應當徹底拋棄AI「取代人類」、「威脅人類」的窠臼思維，而是應重新審視和認識我們自身以及學會如何與AI共存、共生、共榮，通過不斷的自我教育為具備更高智能的機器注入人性色彩，讓AI更好地服務於人類。

科技的未來不是由科幻定義，AI不可能取代和成為人。不管人工智慧技術聽上去多麼高深，它終歸都是由人來研究和發展。人對人的關係鏈接和交易服務是人類社會發展的基礎，尤其在客服、金融等直接為客戶提供服務的行業，機器不能完全替代人。我們無需對AI產生恐懼談之色變，只需要懷有一顆敬畏之心適應它、掌控它。人類站在生存鏈頂端已經太久了，AI正在倒逼人類進行更高層級的演化，人類也將因為有了AI從而激發出無限潛能。

【科技雲報道原創】