微軟研究院舵手Horvitz：AI讓機器擁有自主意識

李杉 唐旭 安妮 編譯自 Quartz

量子位 報道 | 公眾號 QbitAI

身為微軟Building 99實驗室的主任，Eric Horvitz送給每名員工一本David McCullough寫的《萊特兄弟》。「我對他們說看，『請認真閱讀這本書里的每一個字。』」Horvitz邊說邊用手敲打著桌子，強調他的每個音階。

Horvitz希望他們通過萊特兄弟的故事明白，要創造一個新的行業所需要投入的精力和決心。從某種意義上講，他本人在人工智慧行業的職業發展也經歷了類似的過程。在將近25年的時間內，Horvitz始終在努力讓機器具備比肩人類的智能。

要實現這個目標，不僅要在不同的學科開拓新的領域，還要在懷疑聲中對人類的創造力保持堅定的信仰。第一台飛行機器「在海灘上撲閃著翅膀，它的騰空而起是一個奇迹。」Horvitz說，「但50年後，我們有了波音707，有了完整的航空業。」

Horvitz希望徹底改變人類與機器的互動方式，既可以開發新的方式，讓人工智慧為人類駕駛飛機，也可以設計虛擬個人助理來為人們提供各種幫助。由於剛剛被任命為亞洲之外所有微軟研發中心的主管，他還將有機會繼續擴大自己的影響力。

在新的崗位上，Horvitz將利用每個實驗室在人工智慧方面的專業技術——包括華盛頓州雷蒙德市、印度班加羅爾、紐約州紐約市、馬薩諸塞州劍橋市和英國劍橋——將其融合到微軟的核心產品之中，同時在雷蒙德組建一個專門的人工智慧項目。

他還準備在微軟研究院內部針對人工智慧的社會影響展開研究。他表示，自己希望從事的工作將具有「革命意義」。

59歲的Horvitz獲得了科技行業最具影響力的人的支持。微軟CEO薩提亞·納德拉（Satya Nadella）過去兩年一直在圍繞人工智慧重建微軟。「我們希望把人工智慧引入方方面面，使之無所不在，讓它為所有人服務。」他去年對開發者說。

讓Horvitz執掌微軟研究院的大權，有助於確保微軟對這項技術的長期關注。

Horvitz長期以來都在呼籲加強人工智慧的安全性和倫理性，他已經利用自己可觀的影響力對人工智慧研究提出了很多尖銳問題。例如，如果機器無意識地監禁了無辜的人，該怎麼辦？這項技術是否可以不顧社會影響，創造巨大的經濟不平等？

Horvitz通過人工智慧合作組織（Partnership on Artificial Intelligence）彙集了科技行業規模最大、最有影響力的公司在這些問題上的思考，希望以此針對智能產品的透明度、責任心和安全性制定行業標準。當他出席美國參議院的聽證會時，還對自動化決策系統的前景展開了冷靜的分析，同時建議對這項技術的潛在危害保持警惕。

2007年，Horvitz當選美國人工智慧協會（AAAI）主席，任期兩年——這是人工智慧研究領域最大的行業組織，其影響力不容小覷。

隨便找個人工智慧專業的博士生，問問他們人工智慧研究領域有史以來最重要的研究人員，他們給出的答案無外乎Marvin Minsky（1981至1982年擔任AAAI主席）、John McCarthy（1983-1983年擔任AAAI主席）和Allen NewWell（1979-1980年擔任AAAI主席）。由此可見這個職位的重要性。

在Horvitz擔任AAAI主席期間，他一直在尋找人工智慧應用於現實世界后的盲點。「他們不得不應對各種未知。」他說。如今，他們對於這些未知有了更好的了解：即便是無意間融入的偏見數據，也會導致執法部門使用的人工智慧系統產生性別歧視和膚色歧視；無人駕駛汽車可能忽視現實世界中的某些危險；黑客也可能蒙蔽人工智慧系統，使之產生誤判。

Horvitz擔任AAAI主席的高潮發生在2009年，當時在加州太平洋叢林市的Asilomar酒店舉行的一場會議討論了人工智慧的倫理問題，與1975年同樣在這座酒店舉行的DNA修飾會議秉承了相同的精神。這也是首次在學術界之外探討這個問題，從很多角度來看，那場會議都成為了整個行業的轉折點。

「當時參加會議的所有人後來都成了人工智慧技術應用領域的重要參與者。」當時與Horvitz共同主持會議的Bart Selman說，「那場會議也讓外界開始思考如何開發有責任的人工智慧技術。這也催生了人工智慧安全這個新領域。」

自那以後，人工智慧扮演的角色便成為公眾關注的話題。Faceboook的馬克-扎克伯格（Mark Zuckerberg）也必須回答Horvitz十年前提出的問題：如果演算法提供了錯誤信息或把人類困在過濾氣泡裡面，誰要為此負責？

底特律汽車廠商和矽谷新興對手也在針對相關的哲學問題展開爭論：當乘客和行人同時面臨致命威脅時，無人駕駛汽車應該如何抉擇？

倫理和安全問題尚未定論，但毫無疑問，AI在諸多方面仍能帶給人類益處——這也讓Horvitz有理由花費更多的時間來思考這些問題，而這種思考甚至延伸到了實驗室之外。

Quartz記者第一次見到Horvitz時，後者正在肯特谷冰球館的場地上馳騁。剛剛收穫了一場4比1的勝利、還穿著「黑客」隊隊服的Horvitz很快將記者介紹給了他的一位隊友Dae Lee，並隨之發起了一場關於AI潛在應用領域的討論。

「醫院裡，每年有40000人死於那些本可以被避免的事故。」戴著頭盔、仍然氣喘吁吁的Horvitz說，「Dae目前正在著手開發一些預測性的機器學習演算法來減少這些事故的發生。」

第二天再見到Horvitz時，他將更多的想法介紹給了記者：比如用演算法來優化拼車方案，從而減少交通擁堵；或者開發一套根據某人在網路上的搜索記錄來預判癌症的系統（當身體出現某些疾病徵兆時你可能會去搜索相關信息）；Horvitz甚至開發過一套軟體，能根據某一地區的歷史數據來預測其未來可能出現的問題，如疾病、乾旱等，從而幫助一些慈善機構更有針對性地進行援助行動。

Horvitz在心中已經將這些想法咀嚼了數十年之久，而如果一種想法尚未完全成型，他也不會藏著——不管是在談論他作為成員加入的某個組織時，還是一種關於「意識是否是其部分總和」的想法時（Horvitz目前感覺答案是否定的）。

在大學時期，Horvitz同樣在追尋類似問題的答案，並在後來在賓漢姆大學拿到了生物物理學的學士學位。修完學業后，他將一個夏天花費在了曼哈頓的西奈山醫院裡，在那裡，他用示波器對小白鼠大腦神經元輸出的電信號進行了觀測。

Horvitz原本無意踏入計算機軟體領域，但在斯坦福醫學院的第一年，他就發現自己真正的意願是去研究電子大腦——也就是說，讓機器可以變得像人一樣去思考。盯著蘋果的第二代電腦，Horvitz意識到自己在著手解決人類大腦活動問題的過程中，似乎選擇了一條錯誤的道路。

「我當時覺得，這種把玻璃電極貼在頭上來觀察神經元活動的做法，就像是把電線貼在那些黑色的計算機主板上然後去推斷操作系統的想法」。Horvitz說。

他開始試著由外及內地去理解有機大腦，而不是由內而外地去重構它。在拿到了醫學學位后，Horvitz選擇繼續去斯坦福深造並拿到了人工智慧的博士學位。

Horvitz關於AI最初的一些想法與醫學直接相關。他曾經設計過一種程序，這種程序能夠通過迅速辨別一名病人的病情到底是呼吸困難還是呼吸衰竭，來幫助創傷外科醫生完成分診。

但當時的電腦，包括著名的蘋果IIe在內，全都又慢又笨重。要讓機器在指定時間內做出優秀決策的唯一方法是讓它們知道自己的極限——它們要知道並決定自己是否能夠做這個決策，或者做這個決策是否太晚。

機器需要具備意識。

幾十年來，具有自主意識的機器一直是科學小說的常客，而Horvitz一直致力於把這種機器造出來。亞馬遜、Google和Facebook等公司，都在自己的產品中廣泛使用了人工智慧技術，其中大多數集中在構建深度神經網路(DNN)。

DNN在識別圖像中的人或物體、語音識別、理解文本等方面效果顯著。而Horvitz更關心的是：如何讓機器像人類專家一樣做決定，以及如何更快更好。

1990年他在斯坦福發表的一篇論文中，把這個想法描述為「自動推理系統的理性行動模型，利用靈活近似法和決策理論程序來確定如何最有效地解決有限計算資源下的問題」。

這就是一種自主意識。儘管對這個詞如何準確界定還有爭議，但可以被理解為：理解自身限制后展開的行動。

Horvitz清楚的指出自主意識不是一個簡單的開關，而是人類每天無意中進行的小預測匯聚成的海洋，而且有時可以被逆向工程。

為了看清這一點，可以參考這個Horvitz在2009年的一項研究。一個AI為兩個人類玩家主持了一場問答遊戲，這個AI會考慮它有多長時間形成一個問題並念出來，還得預測這麼做是不是有禮貌。

另外，如果AI的攝像頭在背景中看到第三個人，它會停止遊戲並詢問新人是否有意加入。這只是小小的一步，但確實出乎意料之外。

「很像魔法，對吧？那一刻這個系統彷彿有了生命」，微軟高級研究工程師Anne Loomis Thompson說。「當這些系統開始工作時，感覺就像它們真能和你互動，就像科學創造的生命一般」。

褪去微軟這層外衣，Horvitz對AI的安全性更感興趣。他出資贊助了2014年啟動的斯坦福大學人工智慧百年研究項目（One Hundred Year Study）。此項目在學術框架下探討人工智慧的長期影響，其成員包括了經濟、就業、娛樂、交通、城市發展、公共安全等各個方面的專家。它的首個目標是估測2030年AI對一座城市的影響。

這個關於人工智慧的合作組織是由微軟、谷歌、亞馬遜、Facebook和蘋果的AI領導人共同組成的，在Horvitz的構想中，它代表了一種能將這一產業的資源聚集起來，並對AI的用途進行探討以使人類受益的形式。

最近這個組織發布了其目標，主要圍繞AI系統的公平性、包容性、透明度、隱私性、道德性和安全性制定出實踐方案。此組織還邀請了像Jason Furman(歐巴馬首席經濟顧問)等大牛來做技術顧問。Horvitz說，目前大概有60家公司意欲加入。

儘管AI驅動的世界存在潛在的危險，但Horvitz相信科技可以使人類的生活更有意義。而現在，他也有了更大的平台來分享自己的想法。

招聘

量子位正在招募編輯記者、運營等崗位，工作地點在北京中關村，期待你的到來，一起體驗人工智慧的風起雲湧。

相關細節，請在公眾號對話界面，回復：「招聘」兩個字。

One More Thing…

今天AI界還有哪些事值得關注？在量子位（QbitAI）公眾號會話界面回復「今天」，看我們全網搜羅的AI行業和研究動態。筆芯~

另外，，如果你研究或者從事AI領域，小助手會把你帶入量子位的交流群里。

△ 掃碼強行關注『量子位』

վ'ᴗ' ի 追蹤AI行業和技術動態