一文讀懂GPU服務(wù)器
2019-07-30
什么是GPU服務(wù)器?
GPU服務(wù)器是基于GPU的應(yīng)用于視頻編解碼、深度學習、科學計算等多種場景的快速、穩(wěn)定、彈性的計算服務(wù)。
GPU服務(wù)器有什么作用?
GPU 加速計算可以提供非凡的應(yīng)用程序性能,能將應(yīng)用程序計算密集部分的工作負載轉(zhuǎn)移到 GPU,同時仍由 CPU 運行其余程序代碼。從用戶的角度來看,應(yīng)用程序的運行速度明顯加快.
理解 GPU 和 CPU 之間區(qū)別的一種簡單方式是比較它們?nèi)绾翁幚砣蝿?wù)。CPU 由專為順序串行處理而優(yōu)化的幾個核心組成,而 GPU 則擁有一個由數(shù)以千計的更小、更高效的核心(專為同時處理多重任務(wù)而設(shè)計)組成的大規(guī)模并行計算架構(gòu)。
GPU服務(wù)器的主要應(yīng)用場景
GPU 服務(wù)器超強的計算功能可應(yīng)用于海量數(shù)據(jù)處理方面的運算,如搜索、大數(shù)據(jù)推薦、智能輸入法等:
? 原本需要數(shù)天完成的數(shù)據(jù)量,采用 GPU 服務(wù)器在數(shù)小時內(nèi)即可完成運算。
? 原本需要數(shù)十臺 CPU 服務(wù)器共同運算集群,采用單臺 GPU 服務(wù)器可完成。
1.GPU 服務(wù)器可直接加速計算服務(wù),亦可直接與外界連接通信。
2.GPU 服務(wù)器和云服務(wù)器搭配使用,云服務(wù)器為 GPU 云服務(wù)器提供計算平臺。
3.對象存儲 COS 可以為 GPU 服務(wù)器提供大數(shù)據(jù)量的云存儲服務(wù)。
如何正確選擇GPU服務(wù)器
選擇GPU服務(wù)器時首先要考慮業(yè)務(wù)需求來選擇適合的GPU型號。在HPC高性能計算中還需要根據(jù)精度來選擇,比如有的高性能計算需要雙精度,這時如果使用P40或者P4就不合適,只能使用V100或者P100;同時也會對顯存容量有要求,比如石油或石化勘探類的計算應(yīng)用對顯存要求比較高;還有些對總線標準有要求,因此選擇GPU型號要先看業(yè)務(wù)需求。
當GPU型號選定后,再考慮用什么樣GPU的服務(wù)器。這時我們需要考慮以下幾種情況:
第一、 在邊緣服務(wù)器租用上需要根據(jù)量來選擇T4或者P4等相應(yīng)的服務(wù)器,同時也要考慮服務(wù)器的使用場景,比如火車站卡口、機場卡口或者公安卡口等;在中心端做Inference時可能需要V100的服務(wù)器,需要考慮吞吐量以及使用場景、數(shù)量等。
第二、 需要考慮客戶本身使用人群和IT運維能力,對于BAT這類大公司來說,他們自己的運營能力比較強,這時會選擇通用的PCI-e服務(wù)器;而對于一些IT運維能力不那么強的客戶,他們更關(guān)注數(shù)字以及數(shù)據(jù)標注等,我們稱這類人為數(shù)據(jù)科學家,選擇GPU服務(wù)器的標準也會有所不同。
第三、 需要考慮配套軟件和服務(wù)的價值。
第四、 要考慮整體GPU集群系統(tǒng)的成熟程度以及工程效率,比如像DGX這種GPU一體化的超級計算機,它有非常成熟的從底端的操作系統(tǒng)驅(qū)動Docker到其他部分都是固定且優(yōu)化過的,這時效率就比較高。
作為國內(nèi)品牌服務(wù)器廠家,特控GPU機架式服務(wù)器擁有大規(guī)模并行處理能力和無與倫比的靈活性。它主要應(yīng)用于為計算密集型應(yīng)用提供足夠的處理能力。GPU加速運算的優(yōu)勢就在于它可以一邊由CPU運行應(yīng)用程序代碼,一邊由圖形處理單元(GPU)處理大規(guī)模并行架構(gòu)的計算密集型任務(wù)。特控GPU服務(wù)器是醫(yī)療成像、廣播、視頻轉(zhuǎn)碼市場的理想選擇。