摩爾定律過時了!搶食AI大餅,NVIDIA發下豪語:GPU 將取代 CPU

文/Evelyn|編輯/Quen

摩爾定律過時了!搶食AI大餅,NVIDIA發下豪語:GPU 將取代 CPU

文/Evelyn|編輯/Quen

Google Cloud Platform 上週四(21日)在部落格中發表了與 NVIDIA GPU 相關的最新進展,表示他們將在 Google Compute Engine 採用功能強大、速度更快的的進化版 NVIDIA 視覺處理器。這一波來勢洶洶,他們目前正在製造 NVIDIA K80 GPU,更同時推出支持 NVIDIA P100 GPU的 Beta 版,GCP 也會因為這個測試版的推出,在性能上更上一層樓。

幾天後(26 日),NVIDIA 創辦人暨CEO 黃仁勳也在 NVIDIA GPU技術高峰會上,正式發表了「 TensorRT 3 神經網路推理加速器」這項技術。官方表示,TensorRT 3 能大幅改善處理器性能,降低從雲端到終端人工智慧裝置的中推理的浪費,相較於最快的 CPU,它在圖像分類中能帶來40倍的吞吐量,時間延遲在 7ms內,在語言翻譯方面更可以快到 140 倍,可說 TensorRT 3 是在 Volta GPU 實現最高效推理性能的關鍵。

P100 GPUs can accelerate your workloads by up to 10x compared to K80。圖/GCP Blog

黃仁勳為什麼說 GPU 將取代 CPU?

摩爾定律。網路圖片

摩爾定律(Moore’s Law)由Intel的共同創辦人Gordon Moore提出,他觀察到電晶體的微縮速度很快大概每兩年就會多一倍;Intel 執行長David House後來又提出更準確的數字,認為大約18個月就可以將晶片的效能提高一倍。但在NVIDIA技術高峰會上,黃仁勳意指稱GPU終將取代CPU,意指雖然現在CPU電晶體的數量依然在增加,但是性能增長卻非常有限,根據外媒報導,CPU在新產品上帶來的性能提升,每年不超過一成,其發展已經陷入瓶頸。

TensorRT 3 的性能非常卓越,在 Volta 上執行的 TensorRT3 在圖像分類方面比最快的 CPU 還要快 40 倍,在語言翻譯方面則要快 140 倍。

黃仁勳NVIDIA 創辦人暨CEO

但Google 發覺,客戶需要進行各種計算密集型的人工智慧工作,如基因組學、金融計算和培訓,以及機器學習模型推理,CPU已經不夠應付,如早期的GPU客戶 Shazam,它使用GPU來幫助其加強音樂識別服務。Google指出,這種方法可以提供裸機的性能,「Cloud GPU 採用直通模式提供裸機性能。每個虛擬機最多支持4個P100或8個K80(Google 提供最多4個K80板,每個板上有2個GPU)。」

Cloud GPUs Regions Availability – Number of Zones。圖/GCP Blog

無論是 K80 或 P100的GPU,Google也都會提供長期持續的折扣。而 NVIDIA 對於開發者計畫成員也祭出福利,針對 Tesla GPU(P4, P100, V100)和 Jetson 提供免費下載 TensorRT 3

參考資料

*Google Cloud adds support for more powerful Nvidia GPUs
https://techcrunch.com/2017/09/21/google-cloud-adds-support-for-more-powerful-nvidia-gpus/

*Nvidia 發表 TensorRT 3 可程式化推理加速器,比起 CPU 能實現高達 40 倍吞吐率
http://technews.tw/2017/09/27/nvidia-tensorrt-3/

*NVIDIA CEO 黃仁勳表示:摩爾定律將過時,GPU 即將取代 CPU
https://news.xfastest.com/nvidia/41586/nvidia-ceo-moores-law-is-over/