離開百度的吳韌，這兩年做了什麼？

曾任百度傑出科學家的吳韌，在矽谷的Santa Clara開了一家AI晶元公司——NovuMind（異構智能）。雷鋒網了解到，在當今競爭激烈的邊緣設備深度學習加速器市場上，NovuMind正在向前邁進。在2016年12月A輪融資獲得洪泰基金、寬頻資本、真格基金等投資的1500萬美元后，NovuMind即將開始第二輪籌款，這也是吳韌最近出現在北京的原因。吳韌近期在EE Times的獨家訪談中，討論了NovuMind的發展動向他所希望公司能夠達到的成就。雷鋒網在此基礎上進行了整理，探一探，離開百度的吳韌，做了些什麼。

光輝往昔，黯然離去

吳韌1984年畢業於成都氣象學院電子系，次年從氣象局調入德陽教育學院從事計算機管理工作。1987年起，他在在南開大學計算機系從事研究工作，1990年到美國工作，曾在惠普實驗室、CUDA研究中心、AMD就職。2013年9月，當時還是AMD異構系統首席軟體架構師的吳韌，離職加入百度深度學習研究院，以「傑出科學家」的身份投入深度學習的研究。

不過，吳韌也曾面臨一些爭議。2015年6月，吳韌領導的團隊被ImageNet取消了大規模視覺識別挑戰賽（ILSVRC）的資格。官方原因是在比賽期間，該團隊向測試伺服器提交了超過40次測試，超出比賽規定的2次。隨後，吳韌否認團隊在比賽中進行作弊。百度最終將團隊負責人吳韌開除，團隊成員也被分派到百度其他部門。

東山再起，依舊精彩

從2015年7月起至今，NovuMind成立已經有兩年，主要為智能為汽車、安防、醫療、金融等領域提供ASIC晶元（Application Specific Integrated Circuit），並提供訓練模型的全棧式AI解決方案。目前接洽的合作夥伴有來自、美國和歐洲等地的企業。

吳韌表示，NovuMind與基於Nvidia GPU或Cadence DSP的通用深度學習晶元不同，它專註於開發一種「能高效地進行推理」的深度學習加速器晶元。NovuMind設計了一種僅使用3×3卷積過濾器的AI晶元。

在人工智慧演算法迅猛發展的時代，這種做法似乎有點反常。這或許與吳韌更關注系統有關，在他看來，想要實現真正無處不在的人工智慧，就需要在可用的終端實現人工智慧系統。NovuMind關注的，是「不變的神經網路的核心」。他解釋道，5x5卷積可以通過堆疊較少計算的兩個3x3過濾器來完成，7x7可以通過堆疊三個來完成。 「因此，只要用3x3的過濾器就可以達到效果了。」

吳韌表示，邊緣設備的深度學習加速器中，DSP（Digital Signal Processor）和GPU（Graphics Processing Unit）等架構的最大的問題，就是處理器的利用率很低。 NovuMind則通過使用獨特的張量處理架構（tensor processing architecture）解決了這個效率問題。他將這種使用了神經網路中最小積卷單元的設計稱為「積極思考」。

NovuMind的第一個AI晶元（原型）預計會在今年聖誕節前推出。吳韌表示，到明年2月份，他希望應用程序都準備就緒，並能夠在該晶元上實現耗能不超過5瓦進行15萬億次浮點運算。

NovuMind的第二個晶元，耗能將不超過1瓦，計劃在2018年中期面世。

吳韌的AI晶元的重點在於，不僅讓一個小型的互聯網「邊緣」設備具有「看」的能力，而且還具備「思考」（以及識別）的能力，另外，這些都不需要通過數據中心的支持，不佔用任何帶寬。吳韌將之稱為智能物聯網（I²oT，Intelligent Internet of Things）。NovuMind的新晶元將支持Tensorflow（開源軟體庫），Cafe和Torch模型。他希望，他的新晶元的能讓強大高效的AI無處不在。

據吳韌去年對媒體的透露，NovuMind的獨家秘笈是一台完全自行研製的，用來訓練深度神經網路的超級計算機，在用於訓練深度審計網路時，與英偉達的超級計算機DGX-1相比，速度快32倍。這台計算機給了NovuMind訓練出比其他對手更強的模型的能力，不管訓練數據是圖像、語言還是其他類型的數據。

擴大團隊，擁抱未來

除了為NovuMind獲得更多的資金支持，有報道稱，吳韌也將大規模擴張國內團隊。現在Novumind共有員工50人，其中35名工程師在美國工作，其餘15人在北京。雖然該公司的總部在矽谷，但是國內的廣闊市場也是他們的發展重點，這也意味這他們會面臨著較大人才缺口。雷鋒網發現，在NovuMind的官網上，也有1/3的板塊是關於人才招聘的。

在AI人才上，吳韌更欣賞全棧式的人才，在專註於晶元、演算法、架構中的單獨一項之外，還要對整個系統有深入的了解。這與NovuMind的公司定位不謀而合，他認為，NovuMind是一個集終端、演算法、神經網路、超級計算機、數據處理分析和雲端的全棧解決方案。

NovuMind提供了一種全新的人工智慧應用方式，而NovuMind中的「Nov」，在拉丁語中的含義就是「新」。這是吳韌的新開始，也是人工智慧值得關注的新方法。