人工智慧要是失控了，人類該怎麼辦？

作為一項實驗，通德•奧蘭雷瓦朱有一天給維基百科關於他僱主的條目——麥肯錫——搗了點亂。他編輯了該頁面，說自己創辦了這家諮詢公司。一位朋友將修改後的記錄截圖保存了。

幾分鐘內，奧蘭雷瓦朱收到來自維基百科的電子郵件，告知他的編輯操作被拒絕，麥肯錫真正創始人的名字已被恢復。幾乎可以肯定，管理維基百科網站上4000萬篇條目的機器人之一已發現、核對並糾正了被他編輯的條目。

我們非常欣慰地得知，大量如此聰明的演算法正巡邏在保衛真實性的前線——並且可以比麥肯錫旗下數字業務的資深合伙人更聰明。2014年，維基百科上約15%的編輯量是由機器人完成的。

但是，世上的事情都是如此：演算法既可以用於攻擊，也可以用於防禦。有時，演算法之間可以通過非故意和不可預測的方式相互作用。由於演算法在諸如社交媒體、金融市場、網路安全、自主武器系統和自動駕駛汽車網路等不同領域發揮如此核心的作用，人類越來越迫切地需要理解這種相互作用。

今年2月研究期刊《公共科學圖書館•綜合》發表的一篇論文發現，即使那些出於完全善良意願而設計的機器人，也可能會花費數年時間彼此爭鬥。這篇論文分析了十年來維基百科上機器人的使用情況。

在一次這樣的爭鬥中，Xqbot和Darknessbot在3629個條目——從亞歷山大大帝到阿斯頓維拉足球俱樂部——上發生了衝突，反覆撤消和更正對方的編輯結果。

來自牛津互聯網學院和圖靈研究所的幾位論文作者對這些發現感到吃驚。他們得出結論，我們需要對這些機器人之間的相互作用給予更多關注。「我們對我們的數字小黃人的生活和進化知之甚少。」

維基百科的機器人生態系統有門禁，受到監控。但在互聯網所觸及的許多其他領域，情況並非如此：惡意機器人——通常結成協作的殭屍網路來工作——可能會失控。

幾位作者突出強調了這種機器人模仿人類、在社交媒體上「傳播政治宣傳言論或影響公共話語」的危險。數字操縱的威脅如此嚴峻，以致一群歐洲專家甚至質疑民主在大數據和人工智慧時代還有沒有活路。

要說我們正在逼近一個緊要關頭，也許不太誇張。在某種意義上，真理是否正由電子手段確定?我們是否正如歐洲學者所害怕的那樣，正成為曾經聽命於我們的「數字小黃人」的「數字奴隸」?一些演算法之間交互作用的規模、速度和效率開始達到人類無法理解的複雜程度。

如果你真的想在冬日暗夜裡嚇唬自己的話，你應該讀一讀蘇珊•布萊克莫爾有關這個題材的作品。這位心理學家認為，通過創建這樣的計算機演算法，我們也許已不經意地釋放出一個「第三複制因子」——她最初稱之為技因，後來改稱為treme。

第一複製因子是決定我們生物進化的基因。第二複製因子是人類的迷因——如語言、寫作和金錢——迷因加速了文化演變。但現在，她認為，我們的迷因正在被非人類的treme取代，treme符合她對於複製因子的定義，即「可以有變化和有選擇地複製的信息」。

「我們人類正在被新技術所改造，」她在最近的一次講座中說，「我們把一種最驚人的力量放出來了。」

目前，布萊克莫爾教授的理論仍遊離於學術辯論的邊緣。牛津大學機器學習教授斯蒂芬•羅伯茨說，Treme或許是個有趣的概念，但他認為，我們並未失去控制權。

「人工智慧演算法失控將產生很多負面後果，」他說，「但現在，我們距離這個局面還有很遠的距離。」

更緊迫的問題是，用他的話說，政治和商業利益集團已學會了「侵入社會」。 「謊言可以像真理一樣輕易地複製。我們作為個人和團體，都可能被操縱。」

他的解決方案是什麼?為知識建立類似千年種子銀行那樣的保護計劃。千年種子銀行旨在保護瀕危植物免於滅絕。

「隨著人類讓這個世界上的物種減少，我們在試圖保護這些物種的DNA。隨著真相變得瀕危，我們有同樣的義務記錄下事實。」

但是，正如我們在維基百科中所看到的情況那樣，這並不總是那麼簡單的任務。