人工智慧應該如何監管？華盛頓大學教授 Oren Etzioni 給出了他的「人工智慧三定律」

雷鋒網 AI 科技評論按：8月中旬的時候，斯克等 26 國 AI 技術領袖公車上書要求聯合國禁止「殺人機器人」的研發與使用這件事喚起了人們對人工智慧使用和監管的新一輪擔憂。現在 AI 已經開始取代部分人的工作，以後 AI 難道還要用來殺死人類嗎？雖然全球各大 AI 研究機構都在盡量開放自己的成果，促進發展的同時避免技術壟斷來減少人們的擔心，但僅僅「開放」並不能解決一切問題。

近日，AI 研究機構艾倫人工智慧研究院（Allen Institute for Artificial Intelligence）院長、華盛頓大學教授 Oren Etzioni 也在紐約時報發表了一篇文章，講述了他對人工智慧監管的看法。Oren Etzioni 在 Tom M. Mitchell 指導下於1991年拿到CMU的博士學位，而後在來到華盛頓大學，擔任計算機工程學院教授；2005年時他牽頭成立了華盛頓大學圖靈中心並任主任，中心的研究領域包括數據挖掘、NLP、網路搜索。Oren Etzioni 在文中提出了他心中的「人工智慧三定律」，雷鋒網() AI 科技評論將文章編譯如下。

被許多人看作「現實版鋼鐵俠」的美國頂尖科技公司創始人埃隆馬斯克，最近敦促國家有關領導人提早採取措施監管人工智慧技術。馬斯克堅持認為，人工智慧是對人類生存的「潛在威脅」，如同科幻作品中的人工智慧，是一個令人擔憂的觀點。不過，即使是像我這樣的研究人員也認識到，人工智慧會對武器設計，工作機會和隱私安全產生極大的影響。人們對於是否應該開發人工智慧技術很自然地會產生疑問。

我相信答案是肯定的。但是，為了謹慎，難道我們不應該一步一步地至少減緩人工智慧A.I.的開發進度嗎？問題是如果我們這樣做，那麼例如這樣的國家就會超過我們。 A.I.之馬已經脫韁，我們最好的打算是試圖引導它。 A.I.不應該被武器化，而且任何A.I.必須有一個堅守的「禁地」。除此之外，我們應該規範A.I.系統對實際應用場景方面的影響，（例如，自動駕駛車輛的安全性），而不是在還未定形且快速發展的A.I.領域試圖定義和控制某些概念。

我提出了三個有關人工智慧系統的規則，這些想法是受到科幻作家艾薩夫·阿西莫夫1942年提出的「機器人學三律」啟發的。我在此基礎上做了進一步發展。阿西莫夫的三定律是：第一、機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；第二、在不違反第一定律的前提下，機器人必須絕對服從人類給與的任何命令；第三、在不違反第一定律和第二定律的前提下，機器人必須儘力保護自己。

這三大定律看上去雖優雅簡練但卻模糊不清：當涉及到A.I.時，究竟什麼才是傷害？基於我提出的三條規則，我找到了更為具體的方法來避免A.I.造成傷害。

首先，A.I. 系統必須遵守其操作人員的所有規則。這套規則將涵蓋私人，公司和政府機構。 我們不想要A.I. 從事網路欺凌，股票操縱或恐怖主義威脅; 我們不想要F.B.I. 利用A.I.系統釣魚執法。 我們不想要自動駕駛車輛闖紅燈，或者更糟的是製造違反國際條約的A.I. 武器。

我們的一般法規應該修改，人們不能借口稱是A.I.系統做了一些我們無法理解或預期的事情。簡單地說，「不管我事，是A.I乾的」；這不應該成為違法行為的借口。

我的第二條規則是A.I.系統必須清楚地表明它不是人類。正如我們在一則機器人案例中所見 - 計算機程序可以與真人進行日益複雜的對話 - 人類社會需要確保A.I.系統被清楚地標示出來。在2016年，一個被稱為吉爾·沃森（Jill Watson）的機器人在喬治亞理工大學（Georgia Tech）擔任在線課程的教學助理，愚弄學生，並讓大家以為它是人類。根據牛津大學的研究人員稱，更為嚴重的例子是在2016年選舉之前的日子裡，在社交媒體上廣泛使用的支持川普的政治機器人。

我的規則將確保人們知道機器人何時冒充某人。例如，我們知道@DeepDrumpf - 一個在Twitter上幽默地模仿唐納德·川普的機器人。A.I.系統不僅發出假的推文;它們也發布假新聞視頻。華盛頓大學的研究人員最近發布了前總統巴拉克·歐巴馬的假視頻，非常令人信服地似乎在說一些被嫁接到他視頻中的話，真實情況是與他說的完全不同。

我的第三條規則是若未經該信息來源方的明確許可，A.I.系統不能保留或披露機密信息。由於其能自動引用，記錄和分析信息的特殊能力，A.I.系統處於獲取機密信息的主要位置。例如開始被越來越多的家庭接受的「智能音箱」亞馬遜Echo，就可能會記錄下家庭中所有的談話內容， 包括那些私密的，或您的孩子可能無意泄露給A.I.的信息。即使看似無害的室內清潔機器人也會繪製你家的地圖。這些就是你要確保管控的信息。

我相信這些規則聽起來還不夠完整。我在這裡介紹它們，只為拋磚引玉。無論你是否同意Musk先生關於A.I.的進步速度及其對人類的最終影響的觀點，很明顯的一點是A.I. 已經來臨。社會大眾需要做好準備。