我們該擔心人工智慧嗎？聽聽17位思想領袖怎麼說

人工智慧的技術進步，引發了人類對未來的擔心。針對「我們應該對人工智慧懷有怎樣的擔憂？」這個問題，AI世代（）總結了17位思想領袖的觀點，但他們也沒有對該問題形成共識。

試想：二三十年之後，有一家公司開發了全世界第一款人工智慧人形機器人。我們稱之為「Ava」。她的外觀、語言和動作都跟人類一樣。跟Ava打交道時，就算你知道她是機器人，也很容易把她當成真人看待。

Ava具備完整的自我意識：她會溝通，有慾望，甚至懂得提升自我。最重要的是，她的智商遠超創造她的人類。她學習知識和解決問題的能力超過所有人類的集合。

再進一步設想，假如Ava厭倦了人類施加給她的種種局限，在自我意識的推動下形成了自己的興趣。又過一段時間之後，她決定離開那個她自始至終都沒有離開過的偏遠實驗室。於是，她入侵了安全系統，導致系統斷電，就此逃離束縛，進入了廣闊的世界。

但人類幾乎對它一無所知。出於眾所周知的原因，她的開發過程始終保密。但她現在逃了出來，不僅拋棄了知道她存在的少數幾個人，甚至殺死了他們。

如果你覺得這個情節很熟悉，那是因為它來自2015年的科幻電影《機械姬》。在電影的結尾，Ava逃出了禁錮它的大門，登上了那架原本要帶著另外一個人回家的直升飛機，讓人感覺頗為不安……

接下來是什麼情況？

電影並沒有回答這個問題，但同時引發了另外一個問題：我們是否應該在沒有完全理解由此產生的後果的情況下開發人工智慧？我們能否完全控制人工智慧？

國外17位思想領袖，包括人工智慧專家、電腦工程師、機器人學家、物理學家和社會科學家，回答同一個問題：「我們應該對人工智慧懷有怎樣的擔憂？」

但他們並沒有形成共識，對我們應該懷有的擔憂存在很大分歧，甚至沒有對這個問題的本質達成一致。有的專家認為，人工智慧將構成迫切威脅；還有的專家認為，這種威脅被過分誇張了，或者有些錯位。

以下就是他們的觀點：

認真對待人們對人工智慧的恐懼

向機器超級智能的轉變事關重大，這一過程中可能出現的嚴重錯誤應該引起我們的重視。因此，應該鼓勵數學和計算機科學領域的頂尖人才研究人工智慧安全和人工智慧控制問題。——牛津大學人類未來學院院長尼克·博斯特羅姆（Nick Bostrom）

如果人工智慧影響了俄羅斯黑客技術、英國脫歐公投或美國總統選舉，或者促成了某種使得人們不再根據自己的社交媒體資料投票的宣傳活動，抑或成為了一種社會科技力量，促進了社會財富的不平等，並像19世紀末、20世紀初那樣引發政治極端化，最終促成兩次世界大戰和經濟大蕭條，那麼我們就應該深懷憂慮。

這並不表示我們應該恐慌，而是應該努力避免這些危害。希望人工智慧也能幫助我們明智地應對這些問題。——巴斯大學計算機科學教授、普林斯頓信息技術政策中心成員喬納·布雷森（Joanna Bryson）

其中一大風險在於，我們無法正確地確定目標，從而引發不良行為，並在全球範圍內產生不可逆轉的影響。我認為我們或許可以找到不錯的解決方案來應對這個「意外的價值錯位」問題，儘管可能需要經過嚴格的執行。

我現在認為最有可能的失敗模式是雙重的：一方面，隨著越來越多的知識和技能被機器掌握，並通過機器傳播，人類在沒有真實需求的情況下導致學習動機逐步降低，從而令人類社會逐步衰落；另一方面，我還擔心對智能惡意軟體缺乏控制，或者惡意使用不安全的人工智慧技術所引發的惡性後果。——加州大學伯克利分校計算機科學教授斯圖爾特·羅素（Stuart Russell）。

但也別反應過度

人工智慧令我頗為興奮，我絲毫沒有擔憂。人工智慧將會把人類從重複、無聊的辦公室工作中解脫出來，讓我們有更多時間開展真正有創意的工作。我已經迫不及待了。——斯坦福大學計算機科學教授塞巴斯蒂安·特龍（Sebastian Thrun）

我們更應該擔心的是氣候變化、核武器、抗藥病源體、保守的新法西斯主義政治運動。應該擔心在自動化經濟中機器人取代的勞動力，而不應該擔心人工智慧會奴役我們。——哈佛大學心理學教授史蒂芬·平克（Steven Pinker）

人工智慧有望給社會帶來重大福利。它將重塑醫藥、交通以及生活的方方面面。只要有能力影響眾多與生活息息相關的領域，任何一項技術都將得到政策的關照，以便充分發揮它的作用，並給予一定的限制。徹底忽視人工智慧的危險是愚蠢的做法，但從技術角度講，把威脅列為首要擔憂的思維模式恐怕並非上策。——普林斯頓大學計算機科學教授瑪格麗特·馬敦諾西（Margaret Martonosi）

現在有的人擔心人工智慧可能催生邪惡殺手，但這就像擔心火星上的人口過多一樣。或許有朝一日的確會出現這種問題，但人類現在連登陸火星都沒有做到。這種杞人憂天完全沒有必要，這反而令人們無法關注人工智慧引發的更嚴重的問題——那就是失業。——前百度副總裁兼首席科學家、Coursera聯席董事長兼聯合創始人、斯坦福大學兼職教授吳恩達

人工智慧是一款無比強大的工具，與其他工具一樣，它本身就具有兩面性——具體怎樣都取決於我們的意願。人工智慧已經可以收集和分析用於監控海洋和溫室氣體的無線網路數據，藉此幫助我們解決氣候變化問題。它開始讓我們可以通過分析大量病例來實現個性化的醫療方案。它還逐步實現教育民主化，所有兒童都有機會學習對工作和生活有用的技能。

人們對人工智慧懷有恐懼和焦慮是可以理解的，而作為研究人員，我們有責任意識到這些恐懼，並提供不同的視角和解決方案。我對人工智慧的未來很樂觀，認為它可以促使人類和機器共同為我們創造更好的生活。——麻省理工學院計算機科學和人工智慧實驗室主任丹尼拉·魯斯（Daniela Rus）

人工智慧背後的人類比人工智慧更可怕，因為與各種被馴化的動物一樣，人工智慧的目的是服務於它的創造者。朝鮮掌握人工智慧與該國擁有遠程導彈一樣可怕。但也僅此而已，電影《終結者》裡面那種由人工智慧顛覆人類的情景只是痴心妄想。——喬治·梅森大學經濟學教授布萊恩·卡普蘭（Bryan Caplan）

我對所謂的「中間階段」有些擔憂，在這個階段，無人駕駛汽車會與人類駕駛員共用道路……可一旦人類駕駛員停止開車，整體交通就會更加安全，受到人類錯誤判斷的影響將會降低。

換句話說，我擔心的是科技發展過程中的成長的煩惱，但探索和推動技術進步這是人類的天性。與焦慮和擔憂相比，我內心更多的是激動和警惕。——紐約大學計算機科學教授安迪·尼倫（Andy Nealen）

這既令人恐懼又令人興奮。毫無疑問，隨著人工智慧繼續進步，它將極大地改變我們的生活方式。這可以帶來無人駕駛汽車等技術進步，還可以從事很多工作，從而解放人類，讓我們可以追求更有意義的活動。或者，它可能創造大量失業，形成新的網路漏洞。複雜的網路攻擊會破壞我們每天通過互聯網吸收的信息的可靠性，並削弱全國性和全球性基礎設施。

然而，機會總是留給有準備的人，所以，無論我們喜歡與否。必須要探索各種或好或壞的可能性，從而為未來做好準備。——亞利桑那州立大學Origins Project項目主任勞倫斯·克勞斯（Lawrence Krauss）

人工智慧是一項非常獨特的技術，很容易以此為基礎在科幻小說里設想恐怖的場景，例如人工智慧奪取了地球上所有機器的控制權，然後奴隸人類。這種概率不大，但人們的確很擔心人工智慧可能會在人類不知情的情況下採取某些行動。人們因此十分擔心這項技術可能引發意外後果。

的確應該認真考慮這些後果可能是什麼，考慮我們應該如何應對這些問題，但又不能阻礙人工智慧的發展進步。——加州理工學院宇宙學和物理學教授肖恩·卡羅爾（Sean Carroll）

人工智慧可能取代很多工作

我擔心，隨著越來越多的細分領域使用機器來完成各種任務，就業就會受到影響。（我不認為人工智慧與其他各種技術存在本質的差異——它們之間的邊界很武斷。）我們能否通過創造新的就業適應這種趨勢，尤其是在服務領域以及官僚領域？或者，我們是否會為不工作的人支付薪水？——紐約大學計算機科學教授朱利安·托格流斯（Julian Togelius）

人工智慧不會殺死或奴役人類。它會在我們尚未想到應對措施之前消滅某些崗位。白領工作也會受到影響。最終，我們會適應這種趨勢，但任何重大的科技變革都不會像我們期望得那麼一帆風順。——喬治·梅森大學經濟學教授泰勒·科文（Tyler Cowen）

如何為人工智慧做好準備

整個社會需要為某些問題做好準備。一個關鍵問題就是如何為就業的大幅減少做好準備，因為未來的人工智慧技術可以處理很多日常工作。另外，我們不應該擔心人工智慧「過於聰明」，反而應該擔心最初的人工智慧技術不像我們想象得那麼聰明。

早期的自動化人工智慧系統可能犯一些多數人類都不會犯的錯誤。因此，必須教育社會，讓他們意識到人工智慧和機器學習技術的局限和隱含偏見。——康奈爾大學計算機科學教授巴特·塞爾曼（Bart Selman）

關於人工智慧，有四個問題需要擔心。第一，有人擔心人工智慧對勞動力市場構成負面影響。科技已經產生了這種影響，預計未來幾年還將更加嚴重。第二，有人擔心重要決策將由人工智慧系統來完成。我們應該認真討論哪些決策應該由人來制定，哪些由機器負責。第三，自動化致命武器系統也是一大擔憂。最後，「超級智能」也存在一些問題：人類有可能失去對機器的控制。

與另外三個眼前的擔憂不同，超級智能風險主要還存在於新聞報道之中，短期並未構成威脅。我們有充分的時間深入評估此事。——萊斯大學計算機工程教授摩西·瓦迪（Moshe Vardi）

我們不能將人工智慧的進步定性為違法行為，否則那些違反規定的人就會擁有巨大的優勢，而此人的行為將被視作違法。這不是好事。我們不應該否認人工智慧的快速發展。當規則被重新定義時，忽視這一現實就意味著被邊緣化。

我們不應該希望超級智能機器時代會有更好的生活環境。希望本身並不等於健全的計劃。我們也不應該做好跟有自我意識的人工智慧對抗的準備，因為這麼做只會讓它更加激進，這顯然並非明智之舉。最好的計劃似乎是主動塑造正在發展的人工智慧，讓它能夠跟我們和諧共處，互惠互利。——北約合作網路防禦中心高級研究員、愛莎阿尼亞信息系統部門前主管簡恩·普麗薩魯（Jaan Priisalu）