人工智慧將毀滅人類？專家建議採取措施防備背叛

OFweek機器人網訊：隨著人工智慧的發展，其對於就業等方面的影響正受到越來越大的關注，甚至於未來可能會引起人類末日危機的討論也愈發激烈。對此，計算機專家拉塞爾建議，人類必須要在機器人內部預置不確定性，以防備它們的背叛。

隨著人工智慧的發展，越來越多的科學家及科技精英開始擔憂人工智慧會給人類帶來各種難以預計的影響，甚至可能是災難。

近日，特斯拉總裁兼SpaceX公司CEO埃隆·馬斯克在推特上轉發了一項研究，研究聲稱人工智慧在2060年前會在所有任務的完成上超越人類。而馬斯克認為這種轉變會比科學家所認為的出現得更早，因為人工智慧的水準正加速發展。他警告道，人工智慧超越人類的那一天比最近研究所預計的要早幾十年，這是因為人工智慧的發展是呈指數性上升的，而不是線性上升的。

近幾年，馬斯克對人工智慧的發展明確地表明了自己的態度。儘管他對促進這一科技的發展做出了巨大貢獻，馬斯克一直以來都警告說人類所建造的機器有一天可能會導致自身的毀滅。

除了馬斯克外，著名物理學家史蒂芬·霍金對於人工智慧危機也不斷提出警告。今年3月8日，史蒂芬·霍金向英國《獨立報》表示，人類必須建立有效機制儘早識別威脅所在，防止新科技(人工智慧)對人類帶來的威脅進一步上升。霍金警告，未來人工智慧可能會以生化戰爭或核子戰爭的方式摧毀人類。

其實，早在2015年9月，霍金就發出過類似的警告：聰明能幹的人工智慧會讓人類滅亡。霍金表示：一個超級聰明的人工智慧可以非常好地實現它的目標，如果這些目標沒有與我們人類一致，我們人類就麻煩了。

而在GMIC2017首日的領袖峰會上，史蒂芬·霍金再次談到了他對於當前人工智慧技術發展的認識，他說「人工智慧的成功有可能是人類文明史上最大的事件，但是人工智慧也有可能是人類文明史的終結，除非我們學會如何避免危險。」

即使把人工智慧所帶來的影響回歸現實，放眼於短期未來，就業也成為業內最主要的擔憂。Microsoft和Facebook是美國乃至全球都非常成功的科技公司，最近兩位公司創始人BillGates和MarkZuckerberg對未來美國的就業發出了同樣的擔憂。

扎克伯格在哈佛的演講中說到：「我們這一代人是非常艱難的，未來將會有數以百萬計的工作被人工智慧取代，比如無人駕駛汽車、卡車等等。我們父母畢業時，他們的目標是找到工作，但是今天，人工智慧導致許多工作小時，社區成員之間的關係也漸漸變淡，許多年輕人感到沮喪。」

此前早些時候，比爾·蓋茨也表達了同樣的擔憂。蓋茨在Twitter連發了14條推文，給將要畢業的大學生一系列建議。主要強調，未來人工智慧的影響將覆蓋社會的方方面面。建議畢業生從事和AI相關的職業。

根據ForresterResearch的數據，未來10年機器人將取代1500萬工作崗位，相當於美國就業市場的10%。正如蓋茨所說的，現在的人工智慧和自動化領域就像是上世紀80年代的電腦，10年前的社交媒體。

對於人工智慧和可能給人類帶來的「末日」危機，計算機專家斯圖爾特·拉塞爾警告稱，人類製造出的事物(人工智慧)將可能進化得比人類更聰明。拉塞爾建議，人類必須要在機器人內部預置不確定性，以防備它們的背叛。

拉塞爾解釋說，雖然他本人也支持人工智慧的研究，但總感覺製造出一種比自身物種更為聰明的事物並不一定是好事情。拉塞爾建議，為了防止機器人接管我們人類，我們必須製造出無私心的機器人，即在它們的目標任務中存在一定程序的不確定性，應該教會它們人類價值觀方面的知識。通過向人工智慧系統中灌輸「人類常識」，科學家必須重新定義人工智慧，這樣我們才能製造出有益的機器。