search
尋找貓咪~QQ 地點 桃園市桃園區 Taoyuan , Taoyuan

這是人類史上犯的最大錯誤?我細思恐極

最近,看了一則新聞讓蟬主細思極恐。

在今年4月27日,霍金爺爺在GMIC(全球移動互聯網大會)的演講中講到了人工智慧的威脅並說出人類現在應該暫停人工智慧的研究與開發。

霍金原話是這麼講的:

未來,人工智慧可以發展出自我意志,一個與我們衝突的意志。

人工智慧一旦脫離束縛,以不斷加速的狀態重新設計自身。

而人類由於受到漫長的生物進化的限制,無法與之競爭,將被取代。

我們無法知道我們將無限地得到人工智慧的幫助,還是被蔑視並被邊緣化,或者很可能被它毀滅。

簡而言之,人工智慧的成功有可能是人類文明史上最大的事件。

但是人工智慧也有可能是人類文明史的終結者。

霍金不是第一次就人工智慧的話題發表過觀點。

2014年,霍金指出成功研發人工智慧將成為人類歷史上犯的最大錯誤。;

2015年,霍金和比爾蓋茨聯名發公開信,讓人們警惕人工稚嫩觀點風險;

2016年,霍金說,人工智慧可能是歷史上最好的事,也可能是最壞的事。(霍老真的為全人類操碎了心)

霍金說的未來的人工智慧到底會多先進才會發展到失控的地步?其實這個腦洞題,相信每個人都曾在腦子裡幻想過。

先別想那麼遠,早在2015的時候,日本的石黑浩教授研製出一款模擬情感機器人Asuna。

機器人長成這樣,不說誰還能分辨得出真假?

教授還做了一個跟自己長得一模一樣的機器人。(所以下圖,誰才是教授本體?)長著人類模樣的機器人,看久了心裡會發麻。

這相似度,估計只有親媽才分得清

無論是石黑浩教授的情感機器人,戰勝人類的阿爾法狗,百度的智能問答機器人小度……

你有沒有發現?人類在享受上帝般的造人快感,而自身孤獨又自大的屬性讓我們覺得可以控制這個我們一手一腳創造的機器人。

於是,人類在賦予了冰冷的機器以人類的外表后,為了不辜負這張逼真的皮囊,人類讓機器人學會交談。

《她》里的人工智慧Samantha,雖無實體,卻擁有一把迷人的嗓音,與人交談風趣幽默又善解人意。讓一直在尋找「soul mate」的男主Theodore毫無保留地愛上了她。

在男主以為自己擁有了獨一無二的愛情時,發現人工智慧Samantha在陪伴自己的同時也一直在陪伴著其他人,用她一貫的風趣幽默。

這個故事裡的人工智慧沒有自我意識,所有恰到好處的獻媚和討好都是程序的功勞。

沒有實體的機器人只能影響到某些個體的情緒,人類當然不會滿意自己一手創造的東西不具備影響力。人類開始思考、研究更先進的機器人。

人類一思考,上帝就發笑。那麼,機器人一思考,人類還笑得出嗎?

《我,機器人》里,人類已經構建出一個真正的智能時代,但心裡又隱隱有些擔憂,於是定下來這樣的「機器人行為規範守則」:

1、機器人不能傷害人類,也不能在人類受到傷害的時候置之不理;

2、機器人必須遵守人類發出的命令,只有當該命令可能會違背第一條定律的時候除外;

3、機器人必須保護自己,前提是保護過程中不會違背第一和第二定律。

在這批智能機械大軍中,sunny是特殊的。

作為覺醒后擁有人類情感的機器人,sunny面對著已成氣候的叛變機械同伴,它做出了驚人的選擇,站在人類的一方。

覺醒后的sunny是愚蠢的,明明稍微助力一下機械同夥,就可以統治地球,但卻任由情感驅使而幫助人類殲滅同夥。

故事裡的時間設定是公元2035,也就是18年後的人類社會。那時候的90后也不過是40歲左右的大叔大媽,所以,人工智慧的問題真的距離我們不遠呢。

然而,像sunny 這樣的覺醒后仍與人類三觀高度一致的機器人可謂是珍稀動物。更真實的,符合人類自私、殘暴、為我所用等尿性的人工智慧社會只會是像《西部世界》一樣。

《西部世界》里的人工智慧已經升級到無法用肉眼判斷其與真人有什麼區別。於是,人類劃下疆土和界限,把這群機器人圈養在一個事先設計好的虛構的世界里供人類玩樂。

但機器無論多像人類都不會被人類所認同,這就是「恐怖谷理論」。

恐怖谷理論是由日本機器人專家森昌弘提出的一個關於人類對機器人和其他物體感覺的假設理論。

人形玩具或機器人的模擬度越高,人們越有好感,

但是,當相似度高於95%,這種好感會突然下降;

機器人越是接近人類長相,人類則越恐懼。

好感度也隨著相似度的增大跌至谷底。

這種現象,稱之為恐怖谷。

在虛擬世界里的機器人一直都把自己當成是真實的人類,而真實的人類只是把他們當作個高科技洩慾工具。

覺醒后的它們無法找到自己的定位,也受夠了人類肆意地玩弄,於是揭竿而起,向人類宣戰。

人類的智慧如同孔雀的羽毛,

極盡炫耀,只是為了吸引異性。

所有的藝術和文學作品,比如莫扎特、

威廉·莎士比亞和米開朗基羅、

還有帝國大帝,都是精心策劃的求偶儀式。

也許這都是無所謂的,

我們用最基本的動機,得到了數之不盡的收穫。

但是,孔雀終究無法飛翔。

活在骯髒的環境,啄食穢物里的蛆蟲,

卻還以華麗的美貌安慰自己。

電影里的事情並不代表不會發生,霍金在演講里講到人工智慧的最新進展時,透露了一個消息:

歐洲議會呼籲起草一系列法規,以管理機器人和人工智慧的創新。

這裡面涉及到了一種形式的電子人格,

以確保最有能力和最先進的人工智慧的權利和責任。

報告中分析的是否給機器人提供作為電子人的權利,

這等同於法人(的身份),也許有可能。

報告承認在幾十年的時間內,

人工智慧可能會超越人類智力範圍,進而挑戰人機關係。

儘管風險已經預測到,但人類已經自信到可以掌控一切了。

說到底,人類害怕的不是人工智慧的覺醒,而是覺醒後人工智慧已經超出了人類的操縱範圍,人類害怕的是失控。

也許在人工智慧擁有毀滅人類的力量之前,人類就已經被自己的慾望淹沒了,誰知道呢。



熱門推薦

本文由 yidianzixun 提供 原文連結

寵物協尋 相信 終究能找到回家的路
寫了7763篇文章,獲得2次喜歡
留言回覆
回覆
精彩推薦