search
尋找貓咪~QQ 地點 桃園市桃園區 Taoyuan , Taoyuan

Facebook關閉AI系統,原因是「AI系統發明語言自己交流」

【獵雲網()】8月1日報道 (編譯:小白)

事有不盡如人意時。你有沒有這種感覺,別人在你背後說悄悄話,但你完全猜不透他們在說什麼?那麼,再想想如果在背後策劃密謀的是機器——人工智慧聊天機器人——並且更可怕的是,他們還在用自己的語言進行交流,而你,區區人類根本無法理解!

上述情景正是Facebook最近遇到的困擾。Facebook發現其研發的AI聊天機器人在以一種英語的簡寫突變形式交流。比如,Facebook給出和了倆個聊天機器人Bob和Alice的對話內容:

從表面上看,這些重複的單詞對人類毫無意義。但是,來自Facebook AI Research(FAIR)的研究科學家Dhruy Batra表示,這就好比人類經常使用英語的「簡寫」來方便其他人理解一樣,AI也可以用相似的方式來更高效地傳遞信息。如果計算機可以用一種(對他們來說)看上去更簡潔的語言來互相交流,那麼為什麼還要迫使他們局限在英語範圍內呢?

「程序會不知不覺地偏離我們可理解的語言,併發明出他們能理解的代碼文字,」Batra說,「比如,如果我重複』the』五遍,你大概會理解我需要某一東西的五份拷貝。這跟人類社會創造出簡寫是一個道理。」

但是Batra補充說:「這完全是可能的。語言是可以被壓縮地,不僅是為了節省字元,同時也為了傳達凝練的想法。」

在發現聊天機器人尤其喜歡使用他們自己的特殊語言這一糟糕事實后,Facebook決定強迫這些AI只用英語進行交流,從而便於人們在任何時候都能明白這些機器在搞什麼事情。畢竟,我們不想看到「天網」這種可怕的東西威脅人類生存。

也就是這種不確定下,讓埃隆·馬斯克一再強調我們應該對AI及其潛在危險保持警惕。「研究AI,好比在召喚惡魔。什麼有個人擁有某種神秘力量,什麼聖戰這些亂七八糟的故事你肯定聽過,然後那些人一開始總是自信能夠控制惡魔——但結果大家都知道,」馬斯克在2014年時如是說到。

而在最近,馬斯克又一次表達了他對AI的質疑。「我接觸過非常前沿的AI技術,我真的希望大家能夠警惕起來,」在近日的全美州長協會上他說道,「我一直在給人們敲警鐘,不要因為看似不可能,就等到機器人真的在光天化日之下行兇時才想到要採取措施,那就太晚了。」

對此,Facebook的首席執行官馬克·扎克伯格則認為這種極其不負責任。「每當人們說AI可能會在未來傷及人類時,我總會想,大部分技術都是把雙刃劍,你需要小心翼翼地開發之,知道自己在開發什麼,並十分清楚這項技術將被如何使用。」

本文來自獵雲網,如若轉載,請註明出處:http://www.lieyunwang.com/archives/345441



熱門推薦

本文由 yidianzixun 提供 原文連結

寵物協尋 相信 終究能找到回家的路
寫了7763篇文章,獲得2次喜歡
留言回覆
回覆
精彩推薦