展望人工智慧的未來

我們的未來將不可避免的與人工智慧綁在一起，那麼人工智慧將朝向哪個方向發展呢？對於人工智慧未來的發展，我們最好的猜想有哪些（近期和遠期）？如果真的創造出一個有意識的人工智慧，又會有哪些倫理性和實踐性的思考？在這個投機的社會，人工智慧應該被賦予權利，又或是被人們忌憚？

上周，我們討論了人工智慧的過去及其現狀——關於當代人工智慧，弱人工智慧與強人工智慧和通用人工智慧（以下簡稱 AGI）三者的差異，還有一些有關意識構成的哲學思想。弱人工智慧早已滲透在我們的生活中，主要以專門用來智能地執行特定任務的軟體的形式。強人工智慧則是最終目標，而真正的強人工智慧甚至更像是我們從一些虛構小說中所熟悉的那樣。

許多人工智慧研究者終其一生，都在努力向 AGI 接近。儘管 AGI 不一定具有任何形式的意識，它卻能處理任何與數據相關的工作。當然，人類總是有試圖預測未來的天性，這也正是我們即將討論的內容。對於人工智慧未來的發展，我們最好的猜想有哪些（近期和遠期）？如果真的創造出一個有意識的人工智慧，又會有哪些倫理性和實踐性的思考？在這個投機的社會，人工智慧應該被賦予權利，又或是被人們忌憚？

人工智慧的未來

研究者對人工智慧在未來的發展所持的樂觀態度在這幾年有了變化，當代專家之間也存在著激烈的爭論。在之前的文章中提到的 Trevor Sands 是 Lockheed Martin 公司的一名人工智慧研究者，對此，他有著自己謹慎的觀點。他強調他的言論只是代表他個人，與他的僱主無關。他這樣說到：

自從 AGI 作為一個概念被提出以來，研究者（和那些樂觀主義者）一直堅持說它「馬上就要來了」。而我個人認為，AGI 將在未來半個世紀內出現，因為硬體趕上了理論。有更多的公司會看到人工智慧進步的潛力。實際上，對人工智慧的持續而努力的研究最終的結果就是 AGI。

在這樣的時間框架里，甚至連有知覺的人工智慧也很有可能出現,正如一個叫做Albert（一個希望我們在文章中使用他筆名的人工智慧研究者）的人所說：
我希望在我有生之年就可以看到 AGI。至少我希望機器智能可以發展到人們要討論它們是不是真的有意識。這實際上意味著一個更困難的問題。如果感知意味著「自我意識」，那麼不難想象它是一個有自我模型的智能機器。

Sands 和 Albert 都堅信對神經網路和深度學習的現有研究路線是正確的，在不久的將來也極有可能引領著 AGI 的發展。在過去，人們要麼只關注雄心勃勃的強人工智慧，要麼只關注範圍有限的弱人工智慧。AGI 的中間地帶，特別是由神經網路表現的中間地帶，似乎是到目前為止最有成效的研究，也最有可能使人工智慧在未來幾年更進一步。像 Google 這樣的大公司肯定是這樣認為的。

強人工智慧的強大和倫理

無論何時談起人工智慧，總是有兩個最重要的問題：它將如何影響人類，我們應該怎樣對待它？大眾的想法常常會受到虛擬小說的影響，科幻小說中也確實包含和這些問題有關的例子。一個足夠卓越的人工智慧會不會像 Skynet 中那樣試圖去消除人性？又或者，人工智慧是否應被賦予權利，來避免出現像 Artifical Intelligence:A.I. 里的暴行？

在這兩種情況下，有一個共同的主題，就是技術奇點是因真正的人工智慧的出現而產生的。技術奇點被定義為在非常短的時間內發生的非常大的進步。意味著，人工智慧可以進行自我提升，或者生產出更先進的人工智慧。因為這發生的很快，所以一個戲劇性的進步可能會在一夜之間發生，從而產生一個比人類最初創造的人工智慧更卓越的人工智慧。這可能意味著我們最終會得到一個超級智能的惡意人工智慧，也或者是一個有意識和權利的人工智慧。

惡性人工智慧

如果這個由我們假設的超級人工智慧不喜歡人類，我們該怎麼辦？或者說，他對我們熟視無睹，我們又該怎麼辦？我們是否應該懼怕這種假設，並採取預防措施來阻止他？又或者，這些恐懼只是因為我們那些毫無根據的片面想法？

Sands 假設「AGI 將徹底顛覆人性，而它的消極和積極影響是取決於他如何被應用的，與分裂原子一樣，他們都被認為是一把雙刃劍」。當然，這僅僅是指 AGI,並不是強人工智慧。那麼知覺，意識和強人工智慧又有哪些可能性呢？

這種假設的潛在性更有可能不是來自於惡意人工智慧，而是毫不相關的一類。Albert 提出了這樣一個看似簡單的任務：「假設你是一個回形針製造廠的擁有者，你讓 AGI 最大限度地生產回形針,AGI 使用它卓越的智能制定了一個方案，它將整個地球都變成回形針！」

通過這樣一個有趣的實驗，Albert 駁斥了這樣的想法：「你告訴我說 AGI 可以完全的理解人類語言，他很聰明，但又不能完全的理解語言的微妙？或者說，他不會請求要確認嗎？再或者說他自己不會猜測將人類都變成回形針不是個好主意嗎？」

基本上，如果人工智慧可以智能到能理解並執行一個對人類有害的任務，就可以說它是足夠聰明的，它知道不能這樣去做。 Asimov 的三個機器人定律也能在這裡發揮作用，雖然對於人工智慧是否能改變這種實現方式仍然是充滿疑問的。那麼人工智慧的前景呢？

人工智慧的權利

大家爭論的另一面是人工智慧是否應該被保護以及享有權利。如果一個有知覺和意識的人工智慧被創造出來，我們能夠簡單地關閉它嗎？怎樣處理這樣一個實體？即便到現在，動物權利是一個一致存在的具有爭議性的問題，人們仍然沒有就如何處理動物的意識（甚至感情）達成一致。

因此，同樣的辯論也適用於人工智慧。人工智慧應該像奴隸一樣被迫為了人類的利益日夜工作么？ 我們應該為他的服務支付報酬嗎？人工智慧會用這筆報酬做什麼？

對於以上的問題我們不太可能很快就有答案，尤其是不能有讓每個人都滿意的答案。Sands 認為：「多數對 AGI 的道德爭論是：我們如何保證人類創造的人工智慧與人類擁有相同的權利？ 鑒於這個智能系統與人類基本上不同，我們應該如何定義基本的人工智慧權利？此外，如果我們將人工智慧視為人工生命，我們是否有權利結束其生命（「簡單的關閉它？」）。在我們到達 AGI 之前，我們應該認真考慮人工智慧的倫理觀。「

面對這些道德問題以及許多其他問題，隨著人工智慧研究的深入，肯定是一個持續的爭論點。 這些雖然目前看來我們很遙遠，但是，現在已經舉行了很多討論這些問題的會議。

你如何參與其中

人工智慧研究和實驗歷來是學術界和研究人員在聯合實驗室工作的重點。 但是，近年來，自由信息和開源運動的日益普及甚至影響到人工智慧。如果你對人工智慧的未來感興趣，你有很多方法參與其中。

如果你想自己做一些神經網路的實驗，有軟體可以幫助你。Google 有一個基於瀏覽器的訓練中心，用於修改基本的神經網路技術。還有許多開源神經網路庫，如 OpenNN 和 TensorFlow 是免費提供的。雖然這些不是很易用，但是感興趣的仍然可以使用它們，並且擴充他們，讓其更出色。

然而，最好的參與方式是你自己來做進一步的專業研究。在美國，這是一種促進科學研究資助的行動主義的表現。 像所有的科學研究一樣，人工智慧研究也是在一個不穩定的位置。對於那些認為技術創新是未來的人來說，推動公共資助研究總是一個值得努力的事情。

多年來，大眾對於人工智慧發展的情緒是不斷波動的。 我們現在處於高點，但完全有可能改變。 但是，不可否認的是，人工智慧的潛力很大程度的激發了公眾的想象力。這在我們了解的科幻小說和電影中是很明顯的。 我們可能在短時間內就擁有強人工智慧，也可能需要幾個世紀。但是可以肯定的是，我們永遠不會放棄追求。