服務(wù)器廠家告訴你選擇GPU服務(wù)器的5大原則

2019-06-12

作為國(guó)產(chǎn)服務(wù)器廠家，廣州研恒在在云計(jì)算、大數(shù)據(jù)、高性能計(jì)算、人工智能等領(lǐng)域持續(xù)進(jìn)行研發(fā)投入，并提供整體化的解決方案。

GPU服務(wù)器是基于GPU的應(yīng)用于視頻編解碼、深度學(xué)習(xí)、科學(xué)計(jì)算等多種場(chǎng)景的快速、穩(wěn)定、彈性的計(jì)算服務(wù)。作用是：出色的圖形處理能力和高性能計(jì)算能力提供極致計(jì)算性能，有效解放計(jì)算壓力，提升產(chǎn)品的計(jì)算處理效率與競(jìng)爭(zhēng)力。

選擇GPU服務(wù)器時(shí)，要從以下5個(gè)方面考慮：

1.考慮業(yè)務(wù)應(yīng)用先選擇GPU型號(hào)

選擇GPU服務(wù)器時(shí)首先要考慮業(yè)務(wù)需求來選擇適合的GPU型號(hào)。在HPC高性能計(jì)算中還需要根據(jù)精度來選擇，比如有的高性能計(jì)算需要雙精度，這時(shí)如果使用P40或者P4就不合適，只能使用V100或者P100；同時(shí)也會(huì)對(duì)顯存容量有要求，比如石油或石化勘探類的計(jì)算應(yīng)用對(duì)顯存要求比較高；還有些對(duì)總線標(biāo)準(zhǔn)有要求，因此選擇GPU型號(hào)要先看業(yè)務(wù)需求。

2.考慮服務(wù)器的使用場(chǎng)景及數(shù)量（邊緣/中心）

在邊緣服務(wù)器上需要根據(jù)量來選擇T4或者P4等相應(yīng)的服務(wù)器，同時(shí)也要考慮服務(wù)器的使用場(chǎng)景，比如火車站卡口、機(jī)場(chǎng)卡口或者公安卡口等；在中心端做Inference時(shí)可能需要V100的服務(wù)器，需要考慮吞吐量以及使用場(chǎng)景、數(shù)量等。

3.考慮客戶自身的目標(biāo)使用人群及IT運(yùn)維能力

需要考慮客戶本身使用人群和IT運(yùn)維能力，對(duì)于BAT這類大公司來說，他們自己的運(yùn)營(yíng)能力比較強(qiáng)，這時(shí)會(huì)選擇通用的PCI-e服務(wù)器；而對(duì)于一些IT運(yùn)維能力不那么強(qiáng)的客戶，他們更關(guān)注數(shù)字以及數(shù)據(jù)標(biāo)注等，我們稱這類人為數(shù)據(jù)科學(xué)家，選擇GPU服務(wù)器的標(biāo)準(zhǔn)也會(huì)有所不同。

4. 考慮服務(wù)器配套軟件的價(jià)值以及服務(wù)的價(jià)值

5.考慮整體GPU集群系統(tǒng)的成熟度及工程效率

要考慮整體GPU集群系統(tǒng)的成熟程度以及工程效率，比如像DGX這種GPU一體化的超級(jí)計(jì)算機(jī)，它有非常成熟的從底端的操作系統(tǒng)驅(qū)動(dòng)Docker到其他部分都是固定且優(yōu)化過的，這時(shí)效率就比較高。