科大訊飛:攜手NVIDIA后,應用領域效率提升了50倍

美國本地工夫5月9日，科大訊飛在聖何塞召開的GTC 2017大會時期宣布，訊飛開放平台將提供基於NVIDIA最新Pascal架構的NVIDIA Tesla P4平台，提供語音雲效勞的深度學習推理，進一步提升訊飛語音雲平台的效率。

科大訊飛美國分公司總裁李春燕博士表示，隨著對深度學習和人工智慧技術要求日益進步，GPU在扮演越來越重要的角色。在NVIDIA推出Pascal架構的GPU平台後，科大訊飛第一工夫使用NVIDIA Tesla P4深度學習停止訓練，並獲得了絕對於CPU訓練的50倍以上速度提升。

「原先需求兩個月工夫來完成的訓練，如今只需求一天就能完成。」李春燕通知雷鋒網(大眾號：雷鋒網)。

李春燕引見，科大訊飛從2013年便開端運用NVIDIA的K10 GPU平台停止相關人工智慧產品的開發，目前科大訊飛在線日業務量過35億人次，總用戶數超越10億，擁有30萬家協作同伴、是中文語音技術市場的搶先者。目前，科大訊飛的全行業語音產品和人工智慧產品在教育、客服、車載、智能家居、智能硬體、醫療等方面均有著普遍的使用。

「目前深圳有超越60%做機器人的公司，他們用的都是訊飛的方案。」得知雷鋒網編輯來自深圳，李春燕如是說。

科大訊飛此次投入使用的Tesla P4具有超高的運算才能，次要將其使用於訊飛開放平台的深度學習推理，在語音辨認的線上解碼引擎上。相比起之前科大訊飛運用的M40，Tesla P4的併發路數提升了3-4倍，而功耗峰值降低至75W，僅相當於M40的1/2-1/3。

在功能優化上，科大訊飛也下了一番功夫。Tesla P4實際上能提供每秒22T INT8運算的計算峰值，在實踐使用中，科大訊飛跑出了超越20T INT8運算的接近實際峰值的計算才能，這一後果讓NVIDIA刮目相看。

「這是一切協作同伴到達的最高數值。」NVIDIA全球副總裁、亞太區總裁Raymond Teh通知雷鋒網。

Tesla P4運算才能的提升和計算併發路數的提升關於科大訊飛來說至關重要。前者有助於協助科大訊飛提升訓練工夫，放慢迭代的速度，後者可以大大進步雲端效勞呼應速度。經過在訓練和推理兩端同時用GPU減速，不只可以降低在線辨認的本錢，更能無效提升客戶的體驗。

據NVIDIA業務開展總監何濤引見，Tesla P4是爲了順應將來數據中心低功耗計算才能而設計的。GPU關於一切計算中心的計算才能管理至關重要，P4投合了數據中心的需求，不只在功能上有明顯提升，體積更小，可以在異樣空間中配置更多的GPU；功率降低，更重要的是可以用PCIE供電，無需額定電源，可以便於客戶更靈敏地管理計算才能。

「的傳統機房普通是給一個恆定的能耗，假如用大GPU不能夠放很多。」何濤說。「這樣的設計，特別合適。」他接著補充道。