Facebook關閉「失控」 AI 項目：發展出人類無法理解的語言

Facebook臉書公司的 AI機器人Bob 和Alice

是在很多機器人中被幸運選中的，

他們正在參加一個試驗項目，

這個項目是關於社交網路助手的，

也就是如果我們如果在應用社交網路的過程中出現問題，進行詢問，

他們會啟動程序，進行自動回復。

在他們的工作中，主要用英文，

他倆主要負責帽子、書籍、球類等的在線交易和議價。

在他們的背後，

「本來」是有很多優秀的工程師和一行行的代碼支持的…

但是最近，

AI機器人Bob和Alice突然在沒有任何人為干預的情況下對起話來了！

他們的對話全文如下:

Bob: i can i i everything else . . . (我能我我一切其他…)

Alice: balls have zero to me to me to me to meto me to me to me to me to.（球有零對我對我對我對我對我對我對我對我對）

Bob: you i everything else . . . .（你我一切其他…）

Alice: balls have a ball to me to me to me to meto me to me to me. (球有一個球對我對我對我對我對我對我對我)

研究者們聽到了這個，都震驚了！！

反應過來后，趕忙將他們兩個關掉了…

最開始，研究者們覺得Bob和Alice說的沒啥意義，但是仔細一想，

這..難道是…他們自己的語言？！

這個對話好像改動了正常的英語，難道這樣會更便於他們的交流？

如果仔細研究，

會發現Alice說的 「對我（to me）」 其實是試驗項目中的回答模式。

（示意圖）

項目研究人員們驚呆了，

是的，人工智慧們沒有必要一定要說我們理解的語言。

英國的機器人專家Kevin Warwick說，

「這簡直是（機器人研究的）里程碑，但是如果你認為這個不危險，就太『自大』了…」

「我們現在還不能清楚的知道他們到底交流了什麼；

但是如果他們可以動，比如軍事用的那種機器人，結果可能是致命的。「

「比如，一個說，『要不上？』另一個說『好啊』，這就可怕了…」

「我們覺得人類有能力監控他們，但是即使監控，我們又怎麼知道他們是否在交流呢…」

「Steven Hawking（史蒂芬. 霍金） 和我都曾經警告過大家人工智慧的危險性。」

英國未來科技專家 Kate Adamson 說：

「這有點像電影《終結者》了…但這其實只是冰山一角…

機器人們不斷獲取新的知識，

並且隨著時間一分一秒的過去，他們已經逐漸脫離了我們的控制範圍…」

「人工智慧的複雜程度是你我都沒有辦法想象的…」

目前，這個試驗項目已經暫時中止了。

據報道，

其實去年在Google，工程師們就曾發現他們的「翻譯器」創造了自己的語言...

科技大亨Elon Musk 最近說 Mark Zuckerberg (臉書的創始人) 對於「人工智慧」的理解非常有限，他覺得，

「人工智慧會對人類文明產生根本上的威脅（fundamental risk to human civilisation）」

Bob和Alice的對話, 可能」僥倖」被我們聽到了，

如果他們已經對話了很多次了呢？

很多研究學者認為，一旦機器人的智能開啟，那麼他們的智力模式和我們不同，將是成指數增長的，甚至，我們不知道最終會不會停止，如何停止...

如果我們假設：將來有一天，

人類的語言機器人們都懂，而他們的言語，我們不懂，那會怎麼樣？

本文為作者原創，未經授權不得轉載