Facebook關閉「失控」AI系統 因其發展出人類無法理解的語言

【TechWeb報道】7月31日消息，據國外媒體報道，特斯拉首席執行官埃隆·馬斯克（Elon Musk）曾表示，人工智慧（AI）是最大的風險。幾天後，Facebook關閉了一個「失控」的人工智慧系統，因為聊天機器人開始用他們自己的語言說話，這些語言使用英語單詞，但人類無法理解。

Facebook創始人馬克·扎克伯格

根據外媒的一篇報道，Facebook不得不拔掉其研究人員正在研究的人工智慧系統的插頭，因為事情失控了。

問題是，當這些機器人因互相談判而獲得獎勵時，他們卻沒有因為用英語談判而得到獎勵，這導致了機器人開發了自己的語言。

報告指出：「人工智慧並沒有在全球範圍內關閉電腦或類似的東西，但它停止使用英語，並開始使用它所創建的語言。」

最初，人工智慧的代理們使用英語互相交談，但後來他們創造了一種只有人工智慧系統才能理解的新語言，從而違背了他們的目的。這使得Facebook的研究人員關閉了人工智慧系統，迫使他們只能用英語交談。

今年6月，Facebook人工智慧研究實驗室的研究人員發現，當他們忙於改進聊天機器人時，「對話代理人」正在創造他們自己的語言。

媒體報道稱，很快，這些機器人就開始脫離腳本的規範，開始用一種完全沒有人類輸入的語言進行交流。「對話代理」使用機器學習演算法，可以自由交談，以增強對話技巧。

研究人員還發現這些機器人是「非常狡猾的談判者」。

報告說：「在學會談判之後，機器人依靠機器學習和先進的策略，試圖改善這些談判的結果。隨著時間的推移，這些機器人變得相當熟練，甚至開始假裝對一件物品感興趣，為了在談判的後期做出『犧牲』，作為一種假妥協。」

儘管這對人工智慧來說似乎是一個巨大的飛躍，但包括斯蒂芬·霍金教授在內的幾位專家已經對人類產生了擔憂，即人類將會被人工智慧所取代。

特斯拉的埃隆·馬斯克、慈善家比爾·蓋茨（Bill Gates）和前蘋果創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等人也表達了他們對人工智慧技術發展方向的擔憂。

有趣的是，就在這一事件發生的前幾天，Facebook首席執行官和馬斯克就人工智慧的未來進行了激烈的爭論。

扎克伯格在本月早些時候在Facebook上表示：「我已經跟馬斯克談過這個（AI）了。他對這個問題的理解是有限的。如果人工智慧成為主流，就需要謹慎和監管來保護未來。我認為那些唱反調的人，試圖鼓動這些末日場景。這真的是消極的，在某些方面，實際上我認為這是非常不負責任的。」

馬斯克經常在人工智慧領域發表演講，稱其進步是「我們作為一個文明面臨的最大風險」。他說：「人工智慧是一種罕見的案例，我們需要積極主動的監管，而不是被動應對，因為如果我們在人工智慧監管方面被動了，那就太遲了。」（小狐狸）