AI隔壁的老王

Hi，大家好！我是何寶宏，歡迎來到《互聯網的基因》大講堂。

在以往的課堂上我們講了很多次的AI，這一堂課，我們不僅要講AI，還要講講AI隔壁的老王。

下面，就帶著你的想象力和好奇心，認識一下AI隔壁的老王。

近期AI應用取得的進展，主要靠新演算法、大數據和新硬體「三大件」的支撐。AI的新硬體，原來一直住在隔壁老王家，專心做圖像處理，現在漲姿勢了，也開始為AI家打工了。

就像對「電信業務分類」非常困難一樣，對計算機應用分類，維度更多更困難，因此關於「分類的分類」也要簡化。如果單從CPU硬體資源看，可以把應用分為數據密集型和計算密集型。

數據密集型指需要頻繁地從內存、硬碟或網路讀寫很多數據的應用，比如看電影、文檔編輯和微信等。數據密集型應用需要與外界做很多I/O工作，這就像個性格外向的人，思考少而社交多。計算密集型指需要消耗很多計算資源的應用，比如大型遊戲、比特幣挖礦、圖像處理等。計算密集型應用埋頭苦算，就像個性格內向的人，思考多而社交少。

CPU是通用型的，作為兩棲動物，需要兼顧數據密集型和計算密集型應用。為了照顧數據密集型應用，就設計了很多緩存；為了照顧計算密集型應用，需要頻率高和核心多。CPU支持緩存多了，計算就少了；支持計算多了，緩存就少了。

這波AI熱潮推崇的深度學習演算法，是典型的計算密集型應用。通用CPU提供的計算資源，相對AI深度學習的胃口，慢死個人。如果按人類的標準衡量，深度學習演算法就是個深度「宅男(女)」，甚至很可能患有自閉症。當然現代醫學也已經發達到，可以證明每個人都是患者的地步。

與AI有類似自閉癥狀的應用，還有圖像處理，但人家的日子過得就要幸福的多，因為自1990年代，圖像處理就有自己專用的硬體GPU(圖像處理單元)，專門服務於視頻遊戲和渲染圖形等的加速。

神仙姐姐，這也太不公平了。同樣是計算密集型應用，為什麼圖像處理應用30多年了，就有「皇家專供」的硬體GPU可以用；而AI應用，就只能使用大眾版的通用硬體CPU？

CPU和GPU等集成電路的設計和生產，是IT產業中的傳統產業。技術門檻、資金門檻和人才門檻，相對TMT行業要高出很多。周期長、回報率低，還要有自己的生態。因此，沒有任何知名的VC/PE敢於涉足這類晶元設計。

AI應用太高冷，市場需要太少，商業應用寥寥。而圖像處理應用是群眾喜聞樂見的，市場規模龐大，尤其是遊戲應用簡直就像印鈔機。於是乎，貴族化的AI沒有專供硬體，只能用平民化的CPU；平民化的圖像處理有專用硬體，因為需求量大。

當然，就算給你AI設計出強大的專用硬體，就AI演算法那點本事，AI能找到的那點數據，就會被計算資源的大海淹死，因為AI所獲得的價值，相對付出還是不划算。

因此，60高齡的AI應用，打不死的小強，在很久以前的2012年之前，都湊活著使用通用CPU，雖然速度慢了點，但有總比沒有強啊，而且通用的就是便宜啊，性價比也還馬虎。

2009年前後，斯坦福的吳恩達團隊發現，GPU 也能夠幾百倍地加速深度學習系統，在處理AI演算法方面非常有效。2012年，多倫多大學的 Geoff Hinton 帶領的團隊改進深度了學習演算法。2012年前後，隨著雲計算的興起，大數據也開始火了。

改進的演算法，海量的數據，再加上從隔壁借來的GPU硬體，AI三大件幾乎同時都取得明顯進展，應用效果開始新一輪爆發了。2015年，圖像識別的錯誤率降到5%，超越人類。 2016年，語音識別錯誤率降到5.9％，與速記員相同。至少在感知方面，AI開始超越人類。

眼熱GPU的成功，GPU的族兄弟們FPGA(可編輯門陣列)和ASIC等，也都跑步入場了，試圖分一杯羹。大神Google還為此還專門定製化了硬體，叫TUP(強量處理單元)，可以加速圍棋軟體的計算速度，讓AlphaGo在有限的比賽時間內更快落子，預測更多後續變化。

患有自閉症的AI應用，迎娶了隔壁老王家GPU硬體，從此過上了幸福的生活。

《互聯網的基因》一書語音版已經在喜馬拉雅FM、蜻蜓FM上線，歡迎各位聽友訂閱。

嘉賓簡介：

何寶宏，從事互聯網研究領域20年的老兵，獲得計算機博士學位，在通信行業從業，著有《互聯網的基因》一書。本講主要面對企業中高層、戰略研究者、工程師、和有技術背景的大叔大姐，個人觀點，歡迎吐槽點贊分享 。

往期回顧：

大數據的三生三世十里發家史

春風十里，不如互聯網「殺熟」

事關IT男的情懷——探秘技術的養老

以數據的名義，開放演算法

開源正在改變標準

老闆要「又快又好又省」，怎麼辦？

何寶宏：從AlphaGo漫談生物智能

何寶宏：為什麼有關程序猿的笑話最多？

為什麼賺錢的總是遊戲？

霧計算是什麼鬼？

未來，你說「人話」還是「機語」？

大數據時代，聯考為什麼還要考化學？

智能終端將因雲而淪落

如果AI成了上帝……

AI為什麼是個老棋迷？