人類如何建立對AI的信任？

石澤：未來10年是人與AI交互的10年，對人類的挑戰是如何與AI互動。對AI的挑戰是，需要成為可指揮、可糾正、可自我解釋的系統。

AI不僅存在於手機、電腦、無人機和物聯網上，也存在於Manuela Veloso教授的協作機器人（Cobot）身上。這位前AAAI（國際人工智慧協會）主席，美國卡內基梅隆大學（Carnegie Mellon University）機器學習系負責人是人工智慧和自主機器人領域的主要學術領導人之一。Manuela教授的一個研究方向是室內移動機器人，研究如何讓可以移動的機器人與人對話、學習、像人類一樣具有意識等。

如果你去拜訪Manuela教授，會在辦公樓門口遇到由她創造的用來接待客人的協作機器人。這些已經累計「行走」了一千多公里的機器人（協作機器人是滾輪式的），會與你對話，為你引路，帶你到教授的辦公室門口，還能去茶水間幫你打一杯咖啡，看看會議室有沒有開門然後發個郵件給你。不同於人類的感覺器官，機器人通過3D攝像機等感測器來識別障礙物，能夠拍攝到距周邊六到十米的環境圖像，並最終將這些圖像轉化成選擇路徑所需要的信息。

要實現機器為人服務，不可避免地需要解決人機互動的問題。時至今日，人機互動的內涵已經從傳統的人與電腦交互擴展至人與機器人、AI交互。 如何看待人與AI交互的發展方向？要實現「讓AI移動起來」在技術上還有哪些挑戰？AI技術進一步發展的風險是什麼？服務機器人可能的應用場景有哪些？通過與Manuela教授的交流，我們深入探討了這些AI發展中的前沿問題。

人類需要建立對AI的信任

《致加西亞的信》講的是一個人徒步三個星期穿越一個危機四伏的國家，把信交給加西亞將軍的故事。這本發行量高達四千萬的書，強調的是「可信任」的品質，也就是說，我們很難把任務交給無法信任的人。同樣的，我們也很難把重要的任務交給一個還不夠了解的「黑箱子」。因此，AI全面進入人類生活的前提是：人類需要建立起對AI的信任。

Manuela教授認為，有兩種方式可以增加我們對AI的信心。一是保證系統更透明可靠。當我們讓AI幫助做決定的時候，需要知道AI給出建議的理由。目前AI給出的是通用解決方案，但無法做出解釋。AI還不能解釋為什麼它所識別出來的圖像是貓，為什麼走到前面要向右轉。如果AI變得更透明，則能獲得更多的信任。二是人類可以指導和糾正AI系統。未來的十年是人與AI交互的10年，對人類的挑戰是，知道如何與AI互動。對AI的挑戰是，需要成為可指揮、可糾正、可自我解釋的系統。人類可以通過互動來增加對AI的信任，這麼做是為了更好地接受AI，更好地理解、使用AI，更好地的滿足人類的需求。人類與AI互動的方向是需要理解AI、機器人這種新的「生物」。

AI並不是靜止的，而是動態的、自學習系統，它沒有DNA，但有自己的學習曲線。雖然開始有可能做的不好，但AI會在經驗的基礎上越來越好。這個過程中需要教它，糾正它，最終讓它按我們的期望做事，由於我們在這個過程中不斷看到的AI新功能，因此將對AI更加有信心。

機器人之間的合作

不但人與AI、機器人之間有交互的問題，機器人之間也存在這個問題。Manuela教授認為，提到機器人，目前來說是指單一機器人，而未來指的是多功能協作機器人。很多任務無法通過單一系統完成，比如足球、滅火或者建築方面的工作，因此需要機器人之間的協作。目前Manuela教授的實驗室正在進行研究的問題之一是協作機器人之間的溝通問題。比如，請2號機器人去9層，而3號機器人正在9層，它會對2號機器人說：「不用來901辦公室了，門是關的。」機器人之間的交談內容包括分享信息、分配任務、協作。機器人A可以對B說，「我可以幫你把東西拿過去，你沒必要再過去了。」通過相互溝通，他們將學會如何協作，Manuela教授有關於足球機器人協作方面20年的研究經驗，在她看來，多任務機器人可以學會如何協作。

到最後，不同類型的機器人之間是可以互相說話的。雖然亞馬遜音箱已經可以和人類對話，但在移動機器人的協作領域，距離實現這個目標還有很多年。就像計算機之間通過協議和標準來通信，未來室內機器人與室外飛行機器人之間能夠對話，討論能量、任務等問題。雖然目前還沒有AI之間的協議，但科學家正在朝這個方向努力。

目前AI能完成的任務領域非常窄，雖然它們能夠非常專註於自己的任務，但其他方面都不行。Manuela教授的協作機器人目前能把客人帶到辦公室去，但這些機器人沒有手臂，不能開門，也不能上樓，在路上有人摔倒或者地板上有水，或者火災報警器響，它們都意識不到。目前Manuela教授團隊的研究方向之一是讓協作機器人有更多的意識，未來或許在協作機器人2.0時代，他們能意識到周邊環境發生的事情。也許要到5.0時代，它能很好的處理周圍環境中的火災、有人摔倒等等所有突發的情況，然而這個過程是艱難而漫長的。

儘管目前協作機器人還沒有商用，但Manuela教授提到了一些協作機器人可能的應用場景。除了解決老齡化問題和教育問題，協作機器人可以應用在銀行、機場、超市、購物中心等公共空間。比如，在商場購物可以不用購物車，而是把東西放在協作機器人上，從而解放雙手，它們是自動駕駛的，會通過接入手機而跟隨我們。

AI的價值觀

自從2007年第一部Iphone問世以來，互聯網上每年都產生海量的圖片，圖片、視頻、文字以及與Siri的對話都被保留在了雲端，這些數據，是AI保持發展的原因之一。網上的海量數據使AI的發展變得非常實際。人類無時無刻都在產生數據，日常生活中的能源設備，日常攝入的卡路里數量、運動手環、醫院裡關於健康的數據等等。有人認為AI存在泡沫，但Manuela教授認為由於持續增長的數據，AI將繼續發展下去。

科技的發展總會帶來新的挑戰、風險和擔憂。如何正確的使用技術？一方面，什麼是正確的事情?採取什麼樣的步驟保證AI做正確的事情？在道德方面如何監督? 另一方面，如何檢查AI做的事情是否合規？

猶如食物上所貼卡路里值的標籤需要有人檢查一樣，從道德的角度，檢查是否合規的環節與規範、立法是密不可分的。從技術的角度，在寫程序的時候，需要建立規範，同時定義好計算機或者機器人所代表的價值取向，並且要保證程序經過修改依然符合這一規範。

比如，如何保證機器人不會踩到人身上？寫程序的人開始的時候知道這段程序在哪裡，但經過十個人的修改，就很難知道了，再經過一段時間，可能代碼都無從找起。為了解決這個問題，需要重新設計為AI或者機器人編程的模式。AI系統不能夠只是解決問題，他們需要變得更好。我們希望AI能做對的事情，但萬一沒有呢？只要AI還是「黑盒子」就無法避免這個風險。AI的價值、道德和行為選擇是什麼？作為創造者，人類希望AI能做和我們一樣正確的事情。Manuela教授認為需要一個組織持續研究並關注這方面的挑戰。

關注出海小螺號，您的企業出海小助手