中文在线一区二区|青青草原地视频无码日韩|日日日日无码欧美|av超碰在线写真|五月丁香成人社区亚洲丝袜美腿在线|五月天狠狠操Av研究站久久|国产精品偷拍一二区|超碰 在线 影视|布兰迪一区二区三区|日韩无码av一级片一区二区

海悟新聞

數(shù)據(jù)中心科普:如何計算數(shù)據(jù)中心算力與算效

當今科技發(fā)展的浪潮中,智算中心站在了時代的風口成為眾人矚目的焦點,算力作為智算中心的核心指標,決定了其處理數(shù)據(jù)和執(zhí)行任務的能力,算效則反映了算力資源的利用效率,下面我們來學習數(shù)據(jù)中心算力與算效的計算方法

一、算力的定義 

算力(CP,ComputationaPower)即數(shù)據(jù)中心的計算能力。

指數(shù)據(jù)中心的服務器通過對數(shù)據(jù)進行處理后實現(xiàn)結(jié)果輸出的一種能力,是衡量數(shù)據(jù)中心計算能力的一個綜合指標,數(shù)值越大代表綜合計算能力越強。算力應是數(shù)據(jù)中心內(nèi)所有服務器的算力加和,即:

二、算力的分類 

算力(CP)的核心要素包括通用算力(即CP-Nomal,簡寫CPN)和智能算力(即CP-Tuto,簡寫CPT)。通用算力是指數(shù)據(jù)中心服務器僅包含CPU的算力。智能算力是指數(shù)據(jù)中心服務器不僅包含CPU,也包含GPU或AI芯片的算力。因此數(shù)據(jù)中心的算力(CP):

三、算力的單位與精度

算力(CP)最常用的單位是FLOPS(Floatimng point OperationsPer Secnd,每秒浮點運算次數(shù))。事實上,F(xiàn)LOPS已成為各種設施(如計算機、超算機、服務器等)衡量計算性能的代名詞。FLOPS是一個基本單位,它的更大的數(shù)值單位有K(千)、M(兆)、G(吉)、T(太)、P(拍)、E(艾)等。

表1 算力常見單位

算力精度不同,實際算力水平差別巨大。如果因此衡量算力水平,單一采用運算次數(shù)指標是不夠的,還應考慮算力精度。

根據(jù)參與運算數(shù)據(jù)精度的不同,可把算力分為:雙精度算力(64位,F(xiàn)P64)、單精度算力(32位,F(xiàn)P32)、半精度算力(16位,F(xiàn)P16)及整型算力(INT8、INT4)。數(shù)字位數(shù)越高,意味著精度越高、可支持的運算復雜程度越高、適配應用場景越廣。

表2 算力精度適用場景

但是一般情況下,算力規(guī)模測算時統(tǒng)一折算為單精度浮點數(shù)(FP32)算力進行統(tǒng)計。

四、算力(CP)的計算方法

通過上面我們知道算力是通過數(shù)據(jù)中心內(nèi)所有服務器的算力加和來統(tǒng)計的。如果我們僅知道IT電力容量時,怎么去估算數(shù)據(jù)中心(智算中心)的算力呢?

首先我們應選定一款AI服務器,查看它的用電功率。以H100 GPU 服務器為例:CPU耗電約 300W*2,內(nèi)存16根耗電約 250W,硬盤6塊盤約200W,風扇耗電約150W,H100GPU卡耗電約700W*8,按理論計算最大耗電量約為6800W。而以H100模組整機服務器滿配的情況下,單臺約功率約10kW。例如數(shù)據(jù)中心的IT總?cè)萘繛?000kW,計算服務器臺數(shù):

從上公式,計算出本數(shù)據(jù)中心可布置800臺H100 GPU 服務器。然后計算服務器的GPU算力。

表3 H100 SXM算力參數(shù)

通過上表查出,H100 GPU單卡算力為67TFLOPS, 單臺服務器共有8張GPU卡。在忽略CPU算力的情況下,可計算出數(shù)據(jù)中心中心的算力規(guī)模為:

由上公式,可以算出428,800TFLOPS(半精度FP32),即428.8PFLOPS(半精度FP32)。一般情況下,建議在后面加上算力精度,避免產(chǎn)生歧義。

五、算效(CP)的計算方法

算效(CE,ComputationalEmciency)是指數(shù)據(jù)中心算力與功率的比值,即“數(shù)據(jù)中心每瓦功率所產(chǎn)生的算力”,是同時考慮數(shù)據(jù)中心計算性能與功率的種效率。數(shù)值越大,代表單位功率的算力越強,效能越高。若CP為以單精度浮點數(shù)(FP32)的數(shù)據(jù)中心的算力,PC為數(shù)據(jù)中心IT設備的整體功率,其單位為瓦(W),則算效CE的計算公式為:

再以上面的數(shù)據(jù)中心為例,代入算力428,800TFLOPS(半精度FP32)與IT總?cè)萘?000kW進行計算:

計算出數(shù)據(jù)中心的算效為5350FLOPS/W。

其實不管數(shù)據(jù)中心還是智算中心,計算算力和算效并不難,很多建設單位對算力還沒有概念,就跟風口開始建設,容易造成后期資源不匹配、電力不足等情況。為了保證數(shù)據(jù)中心(智算中心)后期安全營運,提前規(guī)劃好智算中心的算力、算效以及研究相關(guān)政策,是很關(guān)鍵的一步。

來源:數(shù)據(jù)中心的那些事

相關(guān)新聞

更多 >
獲取最新價格?我們會盡快回復(12小時內(nèi))
  • 重新獲取驗證碼