為什麼說倫理道德是AI面臨的最大挑戰之一？

資料圖

所有這些東西，現在都可以利用複雜的軟體系統自動確定。隨著AI在過去幾年取得的令人震驚的進步，它在許多方面都可能幫助我們的生活變得更美好。

在過去2年中，AI的崛起已不可阻擋。大量資金被投入到AI初創企業中，許多老牌科技公司（包括亞馬遜、微軟以及Facebook等巨頭）都已經開設新的研究實驗室。可以毫不誇張地說，現在軟體就意味著AI。有些人預測，AI即將帶來巨變，其影響甚至超過互聯網。

我們已經詢問多名技術專家，在這個快速變化的世界，充滿無數輝煌機器會對人類產生什麼樣的影響。值得注意的是，幾乎所有人的回答都圍繞著倫理道德為中心進行。對於谷歌研究主管、機器學習先驅彼得·諾維格（Peter Norvig）來說，數據驅動的AI技術最近取得許多成功，關鍵問題是找出如何確保這些新系統能夠改善整個社會，而不僅僅是控制它的主體。諾維格表示：「AI已經在許多實際任務中證明自己的價值，從標記圖片、理解語言到幫助診斷疾病等。現在面臨的挑戰是，確保每個人都能從這種技術中受益。」

最大的問題是，軟體的複雜性經常意味著，想要精確地解釋AI系統為何做出那樣的決定幾乎是不可能的。今天的AI主要基於名為機器學習的成功技術，但你無法揭開它的蓋子，透視其內部工作場景。為此，我們只能選擇相信它。挑戰也隨之而來，那就是我們需要在許多領域找到新的監控和審核方式，特別是AI正發揮重要作用的領域。

對於哈佛法學院互聯網法律教授喬納森·斯特蘭（Jonathan Zittrain）而言，這其中的一大危險就是，日益複雜的計算機系統可能阻止自己受到必要的審查。他說：「在技術幫助下，我們的系統變得越來越複雜，我很擔心人類的自主性被減少。如果我們設置了系統，然後將其忘諸腦後，系統的自我演變帶來的後果可能讓我們後悔莫及。對此，目前還沒有明確的道德層面上的考慮。」

這也是其他技術專家擔憂的地方。美國杜克大學下屬人類與自主實驗室主任米塞·卡明斯（Missy Cummings）質疑道：「我們怎樣才能證明這些系統是安全的？」卡明斯曾是美國海軍首位女戰鬥機飛行員，如今是無人機專家。

AI的確需要監管，但現在我們還不清楚如何對其進行監管。卡明斯說：「目前，我們還沒有被普遍接受的方法，也沒有測試這些系統的行業標準。對於這些技術來說，實施廣泛的監管非常困難。」在快速變化的世界中，監管機構常常發現自己也對此束手無策。在許多關鍵領域，比如刑事司法系統和醫療領域，許多公司已經使用AI探索做出假釋決定或疾病診斷的嘗試。但是將決定權交給機器，我們可能會失去控制權，誰能保證機器在每個案例中都能做出正確決定？

微軟研究院首席研究員丹娜·博伊德（Danah Boyd）說，有關價值觀的許多嚴重問題正被寫入這些AI系統中，最終誰將為此負責？博伊德稱：「監管機構、民間社會以及社會理論學家們日益渴望看到這些技術能保持公正和道德，但這些概念都很模糊。」

一個充滿道德問題的領域就是職場。AI將幫助機器人從事更複雜的工作，並導致更多人類工人被取代。舉例來說，富士康公司計劃利用機器人取代6萬名工人。福特在德國科隆的工廠也投入機器人，與人類工人協調工作。

更重要的是，如果越來越多的自動化已經對就業造成巨大影響，這也會對人們的心理健康產生負面影響。生物倫理學家、歐巴馬總統前醫療顧問伊齊基爾·伊曼紐爾（Ezekiel Emanuel）表示：「如果你思考下能讓人們的生活變得有意義的東西，你會發現三件事：有意義的人際關係、強烈的興趣以及有意義的工作。其中有意義的工作是定義某人生活的重要因素。在有些地區，當工廠關門時失去工作，可能導致自殺、藥物濫用以及抑鬱症危險的增加。」

結果，我們可能需要看到更多的倫理需求。麻省理工學院專供法律和道德的專家凱特·達靈（Kate Darling）認為：「公司正遵循市場激勵機制，這不是壞事，但我們不能僅僅依賴於倫理道德來控制它。它有助於監管到位，我們已經在隱私以及新技術領域看到它的存在，我們需要找出應對的方法。」

達靈指出，許多大牌公司（比如谷歌）已經成立道德委員會，來監督AI的開發和部署。有人認為，這種機制應該被廣泛採用。達靈說：「我們不想扼殺創新，但到達某種程度時，我們可能想要創造某種結構。」

到底誰能入選谷歌道德委員會以及它到底能做什麼，這些細節還所知甚少。但在2016年9月份，Facebook、谷歌以及亞馬遜成立了聯合組織，目標是尋找應對AI帶來的安全與隱私威脅的解決方案。OpenAI也是類似的組織，旨在開發和推廣能夠讓所有人受益的開源AI。谷歌的諾維格說：「機器學習技術被公開研究，並通過開放出版物和開源代碼傳播非常重要，我們可以分享所有獎勵。」

如果我們能夠制定行業標準和道德標準，並全面了解AI存在的風險，然後建立以倫理學家、技術專家以及企業領導人為核心的監管機制非常重要。這是利用AI為人類謀福利的最佳方式。斯特蘭說：「我們的工作是減少人們對科幻電影中機器人接管世界的擔憂，更多關注技術如何能夠被用於幫助人類思考和決策，而非完全取代它。」