你怎麼存活於大數據和人工智慧結合的時代？

原編者按：這篇文章最初以「Digitale Demokratie statt Datendiktatur」的名字出現在Spektrum der Wissenschaft(科學美國人的姊妹出版物)。作者是Dirk Helbing、Bruno S. Frey、Gerd Gigerenzer等9位著名教授(文後附作者介紹)，主要論述了大數據與人工智慧對未來社會經濟、政治、安全、法律等相關問題的影響，討論了數字革命和數字時代策略，並對成功實現數字社會給出具體的建議。發展背景：大數據與人工智慧數字革命正如火如荼地進行著。每年我們產生的數據量都在翻倍，每分鐘我們在Google搜索、在Facebook上發帖，不久我們周圍的事物都將與互聯網相連。據估計，在10年的時間內，將有1500億個網路測量感測器，比人類總數多20倍，而且，數據量將每隔一段時間翻一番。許多公司已經在努力把「大數據」變成「大商機」。這將如何改變我們的世界？一切都將變得智能，我們將不僅擁有智能手機，還有智能家居，智能工廠和智能城市,甚至於出現智能國家和更智能的地球。事實上，人工智慧取得了驚人的進步，它不再是逐行編程，而是能夠自主學習、從而不斷發展自己。但這一切都伴隨著嚴重的經濟後果：在未來的10到20年間，大約一半的工作將受到演算法的威脅。許多專業人士，包括特斯拉汽車的埃隆·馬斯克、微軟的比爾·蓋茨和蘋果公司聯合創始人斯蒂夫·沃茲尼亞克，都警告說超級智能對於人類是危險的，甚至比核武器都危險。這是危言聳聽嗎？經濟與社會的根本性變化有一點很清楚：我們經濟和社會的組織方式會發生根本性變化。我們正在經歷二戰後最大的變革，生產自動化、駕駛自動化之後，下一步將是社會自動化。社會站在了十字路口，這是一個很大的機會，也有很大的風險，一旦作出錯誤的決定，就會威脅人類一切已有的成就。美國數學家諾伯特·維納發明控制論之後，許多研究者設想過運用此原理控制經濟和社會，但當時的技術並不足夠。而今天，新加坡便被視為「數據控制型社會」的完美示範。一個最初是為了保護公民免受恐怖主義威脅的計劃逐漸影響了經濟、移民政策、房地產市場和學校課程。也在走向相似的道路。最近，百度邀請軍方加入腦計劃(China Brain Project)，這個計劃涉及到在從用戶處收集的搜索引擎數據上運行所謂的深度學習演算法。除此之外，社會控制也在醞釀之中。據報道，能夠影響貸款、求知、簽證的「公民評分(Citizen Score)」將會包括人們的網路行為和社交行為。(見Spotlight on China)西方也走在一條相似的路上，我們都在機構監督(institutional surveillance)的關注之下。2015年，英國「命運警察(Karma Police)」項目被公開，揭露了對每個人的互聯網使用情況的全面監視。「老大哥」真的要成為現實了嗎？一切都以相當無害的形式開始。一開始是產品和服務的個性化建議，這些信息來自於每個人過去的搜索、購買、社交互動。理論上，用戶的身份是受到保護的，但實際上，用戶身份可以被輕而易舉地推測出來。演算法知道我們怎麼做、怎麼想、怎麼感受，它們提供的建議合適到就像我們自己的決定一樣。這實際上讓我們更容易地被遠程控制，我們被看透地越多，我們的選擇就越不可能是自由的、不被他人事先決定的。但它不會就此停止，許多平台正在向一種「說服計算(persuasive computing)」邁進。未來，通過複雜的操縱技術，這些平台將能夠引導我們完成整個行動過程，無論是執行複雜的流程還是為互聯網生產免費內容，而他們都可以從中賺取億萬美元。對政治和安全的巨大影響(一)大輕推與數據控制這些技術在政治世界中也越來越受歡迎。政府正在大規模地試圖通過「輕推(nudging)」——一種現代形式的家長制，來引導公民作出更健康或更環保的行為。新的照料型的政府不僅對我們所做的事情感興趣，而且還要確保我們做出它認為是正確的事情。它的關鍵是「大輕推(big nudging)」，即「輕推」和大數據的結合。這可以有效地管理群眾，而不必讓公民參與民主程序。但這可以實現公平公正和建設美好世界嗎？如果是這樣，那麼公民將被數據授權(data-empowered)的能夠設計出理想的經濟和社會成果的「明君」管理。但沒有人知道如何最好地運用「數據的魔力」。比如醫療保險公司嘗試通過發放智能健康手環來鼓勵增加運動、減少心血管疾病的數量，但這最終可能導致更多的髖關節手術。在社會這樣的複雜的體系中，一個領域的改善幾乎不可避免地導致另一個領域的惡化。因此，大規模的干預措施有時會被證明是巨大的錯誤。無論如何，犯罪分子，恐怖分子和極端主義分子都在試圖控制數據，包括五角大樓，白宮的幾乎所有的公司和機構都曾被黑客入侵。(二)內部侵蝕在缺乏透明度和民主控制時，又出現了一個問題：系統的內部侵蝕。由於搜索演算法和推薦系統可以被影響，因此公司可以對詞的某些組合進行競標，以獲得更有利的結果，在選舉中，政府可能會影響未決選民支持他們。如果有人控制這項技術，他會更輕易贏得選舉。現實情況可能更為嚴峻，在許多國家，單個搜索引擎或社交媒體平台擁有主導市場份額。這意味著，它可以影響公眾並遠程干預這些國家。(三)共鳴效應我們還能發現什麼副作用呢？為了使操縱不被察覺，它需要所謂的共鳴效應(resonance effect)——針對每個人的充分個性化的建議。這樣，個人傾向不斷被重現，最後，你所能得到的一切都來自你自身。這導致了社會的極化，形成了難以相互理解的分裂團體，美國政治中不斷分裂、無法妥協的民主黨和共和黨就是一例。個性化信息以這種方式破壞社會凝聚力，結果是社會分裂，甚至可能是崩潰。同時，由於共鳴效應，社會上大規模的意見變化只能是緩慢的，這導致了滯后性、不易消除性。例如對少數族裔或移民失控的不滿，以及由此導致的歧視、極端主義和衝突。法律與合法性問題更重要的是，操縱改變了我們做出決定的方式，大規模使用操縱手段可能會造成嚴重的社會破壞，包括在數字世界中的暴力行為。誰應該對此負責？但是這些公司違反了哪條法律呢？首先，顯然操縱技術限制了選擇的自由。如果能對我們的行為進行完美地操作，我們就會是數字奴隸，因為我們只會執行別人已經做出的決定。儘管操縱技術只是部分有效，但我們的自由正在緩慢地消失，緩慢到引起不了人們的反抗。康德指出，試圖決定其公民的幸福的國家是專制的。然而，自我發展的權利只能由那些掌控著自己生命的人行使，而這是以信息自決為前提的。這是我們最重要的權利，除非尊重這些權利，否則民主就無法正常運作，而如果它們受到限制，就會破壞我們的憲法、社會和國家。另一項可能被違反的法律是關於廣告的，廣告必須進行標識而且不能誤導，它們也不允許利用某些心理學技巧，如潛意識刺激。此外，目前廣泛的收集和處理個人資料的行為當然不符合歐洲國家和其他地方的數據保護法。最後，個性化定價的合法性是有問題的，因為它可能是對內幕信息的濫用。其他可能被破壞的方面包括平等原則、不歧視原則以及競爭法——因為無法再保證市場准入的自由和價格透明度。此外，在學術界，甚至決策實驗(decision experiments)也必須由倫理委員會批准。在每一次實驗中，有關人員都必須事先知情同意。相比之下，僅單擊確認一百頁的「使用條款」協議的內容是非常不恰當的做法。儘管如此，使用輕推之類的操縱技術的實驗已在數百萬人身上進行，沒有通知他們、沒有透明度、沒有倫理限制。即使是Facebook這樣的大型社交網路，或是OkCupid這樣的在線約會平台，也已經公開承認進行這些社會實驗。如果我們想避免對人類和社會的不負責任的研究，那麼我們迫切需要實施高標準，特別是科學質量標準，以及類似於希波克拉底誓言的執行準則。超級智能與集體智慧假設有一個超級智能，它具有上帝般的知識和超人的能力，那麼我們會遵循它的指示嗎？這似乎是可能的，但是如果我們這樣做，那麼埃隆·馬斯克、比爾·蓋茨、斯蒂夫·沃茲尼亞克和史蒂芬·霍金等人的警告就會成真：電腦會控制世界。我們必須明白，超級智能也可能犯錯、撒謊、追求私益或被操縱。最重要的是，它不能與全體人類的集體智慧相提並論。用計算機組(computer cluster)取代全體人類的思想是荒謬的，因為這會大大降低解決方案的多樣性和質量。顯然，儘管近來海量數據和個性化信息風行，但世界的問題不降反增！世界和平是脆弱的，氣候、金融、網路環境都是脆弱的。在快速變化的世界中，超級智能永遠無法做出完美的決策(參見圖1)：系統複雜性要比數據量增長得快，而數據量的增長速度要比處理能力的速度更快，而且數據傳輸速度也是有限的。這導致對本地實際和信息的忽視，而它對形成好的解決方案是十分重要的。分散式的本地控制方法往往優於集中式方法，特別是在行為——這種高度可變、難以預測、不能實時優化的複雜系統中。對於高度網路化、全球化的社會和經濟體系來說，這一點更是如此。

而且，演算法操縱決策還可能會破壞「集體智慧」的基礎。集體智慧的發生要求個體的信息搜索和決策獨立發生。但如果我們的判斷和決定是通過演算法預先確定的，這就會導致人們被洗腦，變為簡單的接受刺激和響應刺激。換句話說，個性化信息在我們周圍建立了一個「過濾器泡沫(filter bubble)」，這是思維的數字監獄。在這種情況下，我們如何「跳出思維定式(out of the box)」？最終，運用超級智能信息系統(super-intelligent information system)的集中體制將導致一種新的獨裁統治。由此，以自由主義家長式制度(liberal paternalism)為名的自上而下控制型社會實際不過是一個披著玫瑰色外衣的極權主義政權。事實上，大輕推的目標是把許多個體的行動一致化、操縱他們的觀點和決策。將大輕推應用於宣傳陣地，通過行為控制有針對性的使公民喪失某些能力，長期來看，其後果將是致命的。但建設出更好的數字社會是存在可能的。儘管全球競爭激烈，西方國家的優勢在於他們已經學會了處理多元化和多樣化的問題。現在他們只需要學習如何更好地利用他們。未來，這些西方國家將達到商業、政府和公民間的平衡。這就需要互聯網思維，建立信息、創新、產品和服務「生態系統」。為了順利發展，不僅要創造參與機會，還要支持多樣化。因為我們沒有辦法確定優化的目標：我們應該最大化人均GDP還是可持續發展？是權力還是和平？是幸福還是壽命？通過允許追求不同的目標，多元社會可以更好地應付未來的挑戰。集中化的、自上而下的控制僅適用於低複雜度的系統，隨著經濟和文化的發展，社會複雜性將繼續上升，因此未來的解決方案是集體智慧(collective intelligence)。而公民科學(citizen science)、眾包和在線討論平台是提供更多知識、思想和資源的重要的新途徑。集體智慧需要高度的多樣性，而現在，這種集體智慧正在被個性化信息系統不斷減少。社會多樣性與生物多樣性一樣重要。它不僅有助於提高集體智慧和創新，還有助於促進恢復力——應對意外衝擊的能力。減少社會多樣性會影響經濟和社會的功能和表現，因此，多元化和廣泛參與根本上不應被視為對公民的讓步，而應被視為繁榮、複雜、現代社會的功能先決條件。數字時代的策略總而言之，可以說我們現在正處於十字路口(參見圖2)。

大數據、人工智慧、控制論和行為經濟學正在塑造我們的社會，不管是向好的方向還是壞的方向。如果這種技術與我們社會的核心價值相悖，那它遲早會造成巨大的損失，可能會導致一個具有極權主義特徵的自動化社會。在最壞的情況下，人工智慧將控制我們的所知、所想、所做。我們正處於一個歷史時刻，必須選擇一條正確的路徑——這一路徑讓我們大家都能從數字革命中獲益。所以我們在此強烈倡議所有人堅持以下基本原則：1.將信息系統的功能去中心化；2.支持信息自決與參與；3.提高透明度，以實現更高的信任；4.減少信息失真和污染；5.啟用用戶控制的信息過濾器；6.支持社會和經濟多樣性；7.提高協同工作能力和合作機會；8.創建數字助手和協調工具；9.支持集體智慧；10.提高公眾數據素養和進行數據啟蒙，以促進數據世界中公民做出更多負責任的行為。按照這個數字議程，我們都將受益於數字革命的成果：經濟，政府和公民。我們還在等什麼？數字革命到數字社會大數據和人工智慧無疑是重要的創新。他們具有巨大的潛力來刺激經濟發展和促進社會進步，然而，使用這些技術來剝奪公民權利是完全不可接受的。將大輕推和公民評分以極權主義的方式進行行為控制，不僅不符合人權和民主原則，也不適合於管理現代創新型社會。要真正解決世界問題，需要更好的信息和風險管理方法。有關負責任的創新(responsible innovation)和「有人文關懷的數據(Data for Humanity)」的研究可以為大數據和人工智慧在改善社會方面提供指導。我們現在可以做什麼？首先，即使在這個數字革命的時代，公民的基本權利也應該得到保護。這就要求建立一個基於信任和合作的新的社會契約，使公民和消費者不會成為被剝削者或資源，而是成為合作夥伴。為此，國家必須提供適當的監管框架，確保技術的設計和使用方式與民主相適應。人們還應該有權利獲得從自己這裡收集的數據的拷貝。對數據的未經授權的使用必須受到法律的懲罰。那麼個人就可以決定使用他們的信息的對象、目的和時長。此外，應採取適當措施確保數據安全存儲和交換。考慮到多重標準的複雜信譽評價體系有助於提高我們決策所依據的信息的質量。如果數據過濾器、推薦平台和搜索演算法可以由用戶選擇和配置，那麼我們就可以從多個角度來看待問題，我們就不太容易被扭曲的信息操縱。此外，我們需要給予公民有效的投訴程序，並對違規行為實行有效的制裁。最後，為了創造足夠的透明度和信任度，領先的科學機構應當作為數據和演算法的擔保人，這也需要一個適當的行為守則，一種IT專業人士的希波克拉底誓言。我們還將需要一個數字議程(digital agenda)，來為新的就業機會和數字社會的未來奠定基礎。如何確保數字社會成功那麼，我們需要哪些公共系統才能確保數字社會取得成功？首先，需要全新的教育理念。這應該更多地關注批判性思維、創造力、創新性和創業精神，而不是製造標準化的工作者。同時教育也應該使公民了解數字技術的哪些用途是非法的、如何是負責任地使用數字技術。其次，需要一個參與式的平台，使人們更容易成為個體經營者、建立自己的項目、尋找合作夥伴、在全球範圍內銷售產品和服務、管理資源、繳稅和社保。作為補充，城鎮和村莊可以建立新興數字社區中心，來共同開發和測試創意，以此推動協同創新。特殊類型的比賽可以為創新提供額外的激勵，有助於提高民眾知曉度，並為參與式數字社會帶來動力。它們可能特別有助於動員民間力量來對幫助解決全球問題。第三，建立由公民運營的「數字神經系統」，為大家開闢物聯網的新機會，為所有人提供實時數據。如果我們想以更可持續的方式利用資源，就需要衡量我們和他人與環境互動的積極影響和消極影響。通過使用適當的反饋迴路，系統可以利用自組織(self-organization)實現期望的結果。為了取得成功，我們需要各種激勵和交換制度，供所有經濟、政治和社會創新者使用，這可能創造出全新的市場。為了更好地應對未來世界的複雜性和多樣性，並將其變為優勢，我們將需要個人數字助手(personal digital assistants)。可以預期，未來將可以根據需要靈活地構建人和人工智慧的網路。但這些網路應該以分散的方式進行控制，還必須能夠根據需要登錄和註銷。跨國公司早就認識到，文化多元化和多學科的團隊比同質化團隊更成功。然而，在許多地方，仍然缺少有效整合多人知識和想法以創造集體智慧所需的框架。為了改變這一點，提供在線評議平台將非常重要。他們還可以創造實現升級的數據民主，為公民提供參與所需的框架。由於大數據，我們現在可以進行更好的、基於證據的決策。然而，進行自上而下的控制的想法卻不斷失敗，這是因為社會的複雜性正經歷爆炸式的發展。而分散式控制方法(Distributed control approaches)變得越來越重要。只有通過集體智慧，才有可能找到適合我們世界複雜性的解決方案。作者介紹Dirk Helbing，人文社會政治學系計算社會科學教授，蘇黎世聯邦理工學院計算機科學系副教授。他最近的研究討論了全球網路風險。Bruno S. Frey，巴塞爾大學經濟學家和客座教授，他負責指導經濟與福祉研究中心(CREW)。他還是蘇黎世經濟，管理和藝術研究中心(CREMA)研究主任。Gerd Gigerenzer，柏林馬克斯·普朗克人類發展研究所所長，並於2009年在柏林創立了Harding風險識字中心。他是柏林科學院和德國科學院的成員。他的研究興趣包括風險能力和風險溝通，以及在不確定性和時間壓力下的決策。Ernst Hafen，蘇黎世聯邦理工學院分子系統生物學研究所的教授，也是前所長。他2012年創立了「數據與健康」計劃。該計劃的目的是在政治和經濟層面加強公民的數字自主權，並鼓勵建立有組織的個人資料合作資料庫。Michael Hagner，蘇黎世聯邦理工學院的科學研究教授。他的研究興趣包括科學與民主的關係，控制論的歷史以及數字文化對學術出版的影響。Yvonne Hofstetter，律師和AI專家。她的專長是大數據和數據融合系統的分析。她是Teramark技術有限公司的總經理。該公司開發了基於人工智慧的數字控制系統，其中包括優化城市供應鏈和演算法貨幣風險管理。Jeroen van den Hoven，代爾夫特理工大學倫理與技術學教授，以及倫理與信息技術雜誌的創始編輯。他是荷蘭研究委員會責任創新計劃的創始主席，並主持歐盟委員會責任研究與創新(Responsible Research and Innovation)專家組。他也是歐洲數據保護監督員中的倫理專家組成員。Roberto V. Zicari，法蘭克福大學資料庫和信息系統教授，大數據專家。他的興趣也包括企業家精神和創新。他是法蘭克福大學大數據實驗室的創始人，也是運營資料庫管理系統(ODBMS.org)門戶的編輯。他還是加州大學伯克利分校工業工程與運營研究部創業與技術中心的客座教授。Andrej Zwitter，荷蘭格羅寧根大學國際關係與倫理學教授，英國利物浦霍普大學榮譽高級研究員，他是「大數據與全球戰略」國際網路天文台聯合創始人。他的研究興趣包括國際政治理論，緊急和戒嚴，人道主義援助政策以及大數據對國際政治與倫理的影響。文獻來源Helbing D, Frey B S, Gigerenzer G, et al. Will Democracy Survive Big Data and Artificial Intelligence[J]. Scientific American. Feb, 2017, 25.