Facebook加入
LINE加入
2021/12/25
最近 Facebook 的一個 AI 項目火了，話題刷爆國內外社交網路：AI 機器人發展出自己的語言，Facebook 的工程師們慌了。
Facebook AI 發明出人類不能理解的語言，擔心失控項目已被關閉。
難道我們人類造出了一個怪物？
其實今年六月，《大西洋月刊》（The Atlantic）就發表了一篇文章：
人工智慧發明出自己的非人類語言
文章稱：
Something unexpected happened recently at the Facebook Artificial Intelligence Research lab. Researchers who had been training bots to negotiate with one another realized that the bots, left to their own devices, started communicating in a non-human language.
Facebook人工智慧實驗室最近發生了一些匪夷所思的事情。一直訓練機器人之間相互談判的研究人員發現這些機器人偏離了原來的設定，開始用非人類語言進行交流
Not only does this appear to be nonsense, but the bots don』t really seem to be getting anywhere in the negotiation. The weird thing is, Facebook』s data shows that conversations like this sometimes still led to successful negotiations between the bots in the end.
儘管這些文字看起來好像是在胡言亂語，而且機器人之間似乎並沒有真正達成某些協議，但詭異的是，Facebook 的數據顯示，這樣的對話有時仍然能夠使機器人之間成功達成談判。
看到這裡，是不是覺得細思恐極，並想起了《終結者》，然後抖了三抖......
「你們人類天生就有自我毀滅傾向。」——《終結者》
哇，趕緊看看窗外的天空有沒有變色，難道將有一場科幻大片在我們現實生活中上演？
你怎麼看？
試想，當機器人以人類聽不懂的語言對話，一個提議發射導彈，一個說好……這能不讓人類不寒而慄嗎？
更多關於「機器人革命」，殺人機器人，邪惡的人類終結者等各種言論接連出現。
於是，這些媒體說，Facebook出於對人工智慧可能會「失控」的恐慌，不得不關閉了相關研究項目。
其實，上周，Facebook首席執行官馬克·扎克伯格（Mark Zuckerberg）和特斯拉首席執行官伊隆·馬斯克（Elon Musk）正因為人工智慧吵得不可開交。
馬克·扎克伯格（左）和伊隆·馬斯克（右）
@馬斯克： 對其發展表示非常擔憂，稱隨著機器越來越聰明，它們會掌控一切。
@扎克伯格： 對人工智慧的前景表示非常看好。
還原「自創語言」真相
研究人員觀測到的機器人「Alice」與「Bob」之間的「交流」
Bob: i can i i everything else . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . .
Alice
emmmmm…這真的是一種語言？確定不是卡機了嗎？！？
其實，臉書目前是想要開發一個溝通軟體。研究人員首先訓練機器人去分研究員給定的東西。
《英國電訊報》報道稱，根據名叫Dhruv Batra的這位研究員解釋，Bob和Alice這次的對話任務是對球、帽子和書三種物品自行設置價值，然後根據價值來產生交易行為。
從圖中的測試結果來看，機器人看起來「智商在線」。
它拒絕了實驗者要帽子的請求，而主動要給出書本，因為帽子的權重是「7」，而書本的權重是「0」。
所以說這項實驗實際是非常成功的。臉書的人工智慧研究員也表示，這項實驗證明，臉書研發的人工智慧機器人不僅能說英語，還能智能地思考說什麼。
但是，兩位機器人尬聊著尬聊著，就開始不按劇本發展劇情了。
簡單來說，這是一個設計bug，機器人在溝通中開始以一種類似「速記」的方式，簡化了它們的交流。
根據Facebook提供的直觀圖表，大概就是這麼個拆解模式▼
所以前面Bob和Alice那段「卡機」式對話，其實可能可以翻譯成這樣
Bob：我拿出這個，能不能把其他東西都給我……（i can i i everything else . . . . . . . . . . . . .）
Alice：我一個球都沒有，給我9個。（balls have zero to me to me to me to me to me to me to me to me to me）
Bob：給你這個，把其他東西都給我……（you i everything else . . . . . . . . . . . .）
Alice：我只有一個球，再給我7個。（balls have a ball to me to me to me to me to me to me to me）
Bob：我拿出這兩個，能不能把其他東西都給我……（i i can i i i everything else . . . . . . . . . . . .）
Alice：我只有一個球，再給我6個。（balls have a ball to me to me to me to me to me to）
而且根據研究員解釋，由於實驗設置了讓這些機器人只要沒法達到兩方接受交易就「永不停止」，所以這樣的對話一般都很長很長，停不下來……
真相剛剛還原
你或許又有疑問了？
這算哪門子新語言吶？
BBC發文闢謠……
根據BBC報道，Bob和Alice的溝通文字屬於「新語言」這個觀點，並非Facebook研究員自己定性的，而是來自部分媒體的主觀評判，所以這鍋Facebook不背……
受到研究者和業內人士都肯定的一種解釋是，人工智慧神經網路只是利用人類語言作為素材，以機器之間更有效溝通為目的，對詞句進行了重組，並非發明語言。
這種人工智慧重組人類語言的事件其實並不新鮮。
今年早些時候，Google就公布稱，他們發現其谷歌翻譯功能「創造了自己的語言」，作為不同語言轉譯之間的「中間語言」。Google在自己的研究記錄博客中將其稱為一種自發的「編碼」行為。
實際上，這項智能機器人的開發非常困難。臉書即時通訊「Messenger」的研究中，機器人無法正確回應人類70%的訴求。
最終，Facebook並沒有「關停」試驗系統，重新設置正確激勵后修正了機器人的行為，讓機器人用標準的英文語法來溝通。
感覺之前看了一堆假新聞...
人工智慧真的會有「失控」的一天嗎？
《終結者》
而史上最著名的「人工智慧威脅論」，來自老熟人霍金，他在2014年說▼
「它（指人工智慧）將自行發展，並且以不斷增快的速度進行自我改造。人類畢竟被緩慢的生物進化所限制，無法與之競爭，並終將被取代。」
FastCo也稱，像這樣的情況確實可能帶來一些潛在問題，比如系統出錯的時候可能很難解決，但這跟機器脫離人類控制也還是兩回事。
當然，確實不能否認智能機器人被用來作惡的可能，但風險在於人類如何使用人工智慧的力量。這跟人類使用核武器或其他發明是一回事。至少，人工智慧現在還遠遠沒有達到真正「智能」的程度，還只是人類在「鬧著玩」而已。
至少，到目前為止，人工智慧還遠遠不能發動「革命」。
原來是虛驚一場
不妨看看片子壓壓驚
機器人總動員
故事講述了地球上的清掃型機器人瓦力偶遇並愛上了機器人夏娃后，追隨她進入太空歷險的一系列故事。
超體
《超體》講述一個年輕女人被迫變成毒販，然後這種毒品傾入她自己身體，反而給了她超於常人的力量：包括心靈感應、瞬間吸收知識等技能，讓其成為一名無所不能到「女超人」。
黑鏡
該劇分別以多個建構於現代科技背景的獨立故事，表達了當代科技對人性的利用、重構與破壞。通過一系列AI故事，引發人們對人工智慧在人類未來生活運用的深思。
點擊「閱讀原文」報名即可免費試學一個月！
熱門推薦
留言回覆
