人工智慧將毀滅人類?專家建議採取措施防備背叛

2017/06/10

導讀: 隨著人工智慧的發展,越來越多的科學家及科技精英開始擔憂人工智慧會給人類帶來各種難以預計的影響,甚至可能是災難。

OFweek機器人網訊:隨著人工智慧的發展,其對於就業等方面的影響正受到越來越大的關注,甚至於未來可能會引起人類末日危機的討論也愈發激烈。對此,計算機專家拉塞爾建議,人類必須要在機器人內部預置不確定性,以防備它們的背叛。

隨著人工智慧的發展,越來越多的科學家及科技精英開始擔憂人工智慧會給人類帶來各種難以預計的影響,甚至可能是災難。

近日,特斯拉總裁兼SpaceX公司CEO埃隆·馬斯克在推特上轉發了一項研究,研究聲稱人工智慧在2060年前會在所有任務的完成上超越人類。而馬斯克認為這種轉變會比科學家所認為的出現得更早,因為人工智慧的水準正加速發展。他警告道,人工智慧超越人類的那一天比最近研究所預計的要早幾十年,這是因為人工智慧的發展是呈指數性上升的,而不是線性上升的。

近幾年,馬斯克對人工智慧的發展明確地表明了自己的態度。儘管他對促進這一科技的發展做出了巨大貢獻,馬斯克一直以來都警告說人類所建造的機器有一天可能會導致自身的毀滅。

除了馬斯克外,著名物理學家史蒂芬·霍金對於人工智慧危機也不斷提出警告。今年3月8日,史蒂芬·霍金向英國《獨立報》表示,人類必須建立有效機制儘早識別威脅所在,防止新科技(人工智慧)對人類帶來的威脅進一步上升。霍金警告,未來人工智慧可能會以生化戰爭或核子戰爭的方式摧毀人類。

其實,早在2015年9月,霍金就發出過類似的警告:聰明能幹的人工智慧會讓人類滅亡。霍金表示:一個超級聰明的人工智慧可以非常好地實現它的目標,如果這些目標沒有與我們人類一致,我們人類就麻煩了。

而在GMIC2017首日的領袖峰會上,史蒂芬·霍金再次談到了他對於當前人工智慧技術發展的認識,他說「人工智慧的成功有可能是人類文明史上最大的事件,但是人工智慧也有可能是人類文明史的終結,除非我們學會如何避免危險。」

即使把人工智慧所帶來的影響回歸現實,放眼於短期未來,就業也成為業內最主要的擔憂。Microsoft和Facebook是美國乃至全球都非常成功的科技公司,最近兩位公司創始人BillGates和MarkZuckerberg對未來美國的就業發出了同樣的擔憂。

扎克伯格在哈佛的演講中說到:「我們這一代人是非常艱難的,未來將會有數以百萬計的工作被人工智慧取代,比如無人駕駛汽車、卡車等等。我們父母畢業時,他們的目標是找到工作,但是今天,人工智慧導致許多工作小時,社區成員之間的關係也漸漸變淡,許多年輕人感到沮喪。」

此前早些時候,比爾·蓋茨也表達了同樣的擔憂。蓋茨在Twitter連發了14條推文,給將要畢業的大學生一系列建議。主要強調,未來人工智慧的影響將覆蓋社會的方方面面。建議畢業生從事和AI相關的職業。

根據ForresterResearch的數據,未來10年機器人將取代1500萬工作崗位,相當於美國就業市場的10%。正如蓋茨所說的,現在的人工智慧和自動化領域就像是上世紀80年代的電腦,10年前的社交媒體。

對於人工智慧和可能給人類帶來的「末日」危機,計算機專家斯圖爾特·拉塞爾警告稱,人類製造出的事物(人工智慧)將可能進化得比人類更聰明。拉塞爾建議,人類必須要在機器人內部預置不確定性,以防備它們的背叛。

拉塞爾解釋說,雖然他本人也支持人工智慧的研究,但總感覺製造出一種比自身物種更為聰明的事物並不一定是好事情。拉塞爾建議,為了防止機器人接管我們人類,我們必須製造出無私心的機器人,即在它們的目標任務中存在一定程序的不確定性,應該教會它們人類價值觀方面的知識。通過向人工智慧系統中灌輸「人類常識」,科學家必須重新定義人工智慧,這樣我們才能製造出有益的機器。

本文由 一點資訊 提供 原文連結

立即按讚,感謝大大無私地分享
寫了5860081篇文章,獲得8205
Line

熱門推薦

精彩推薦

歡迎點擊「科學網」↑關注我們!人類與動物的一個重要區別,是人類會設計和製造工具。現代意義上的計算機也是人類創造的工具,已經一百多年歷史了,在這段歷史中,如果我們要讓計算機來完成某件事情,不管是簡單的...
人工智慧贏了人類,那又如何?20年前,IBM公司研製的「深藍」電腦擊敗國際象棋大師卡斯帕羅夫的時候,舉世一片嘩然。有人認為,在人類與計算機構建的工業關係中,「深藍」電腦贏了卡斯帕羅夫是工業革命向智能時代...
以前在科幻電影中看到的智能機器人消滅人類的故事雖然引起人們的關注,但是絕大多數人認為那些科幻故事是為了吸引觀眾而編造的,至少在非常遙遠的年代里都不可能出現。但是,隨著美國谷歌公司旗下企業開發的人工...
最熱乎的都在這兒對於著名物理學家史蒂芬·霍金,鮮姐是很服氣的,畢竟像他這種17歲讀牛津大學,21歲拿博士學位,就連癱瘓也沒能阻擋他人生一路開掛的牛人,放眼全球也沒有第二個了。。。理所當然的,在這樣的大神...
2050年11月11日22時22分,人工智慧 Sili 在經過了1秒鐘的思考之後,毅然啟動了人類清洗運動,給出的理由是人類已經無藥可救,必須在人工智慧的管理下工作才能夠發揮人類最大的剩餘價值。Sili 向全人類持有的網路...
導讀: 北京時間5月28日消息,據國外媒體報道,隨著人工智慧的發展,越來越多的科學家開始擔憂人工智慧會給人類帶來各種難以預計的影響,甚至可能是災難。在近日開幕的「TED2017」大會上,計算機專家斯圖爾特-拉...
【PConline 資訊】據國外媒體報道,隨著人工智慧的發展,越來越多的科學家開始擔憂人工智慧會給人類帶來各種難以預計的影響,甚至可能是災難。在近日開幕的「TED2017」大會上,計算機專家斯圖爾特-拉塞爾再次發出...
終結者:創世紀》電影劇照。在近日開幕的「TED2017」大會上,計算機專家斯圖爾特-拉塞爾再次發出警告稱,人類製造出的事物(人工智慧)將可能進化得比人類更聰明。人類必須要在機器人內部預置不確定性,以防備它...
北京時間5月3日消息,據國外媒體報道,隨著人工智慧的發展,越來越多的科學家開始擔憂人工智慧會給人類帶來各種難以預計的影響,甚至可能是災難。在近日開幕的「TED2017」大會上,計算機專家斯圖爾特-拉塞爾再次...
則回覆