近日,國(guó)際權(quán)威AI性能基準(zhǔn)評(píng)測(cè)平臺(tái)MLPerf發(fā)布最新推理(Inference v2.0)測(cè)試成績(jī),總計(jì)超過(guò)10家國(guó)際知名服務(wù)器廠商的數(shù)十種產(chǎn)品參與了本次測(cè)試。其中,寧暢X640 G40、X660 G45 、X620 G40人工智能服務(wù)器,在Closed(封閉)賽段的3D-UNet99(圖像分割)、SSD-large(目標(biāo)檢測(cè)重量級(jí))與Bert-99(自然語(yǔ)言處理)等模型測(cè)試中性能表現(xiàn)出色,共獲得59項(xiàng)第一成績(jī)。
MLPerf基準(zhǔn)測(cè)試在國(guó)際AI領(lǐng)域有極高影響力,其基準(zhǔn)聯(lián)盟已有谷歌、Intel、NVIDIA、微軟、Facebook等超50家成員。MLPerf Inference v2.0 AI基準(zhǔn)測(cè)試包括Datacenter(數(shù)據(jù)中心)和Edge(邊緣)兩大場(chǎng)景,參與測(cè)試的各計(jì)算系統(tǒng)基于同一套參數(shù)運(yùn)行。
X640 G40獲得Datacenter組全場(chǎng)第一
搭載NVIDIA A100 Tensor Core 80GB GPU,寧暢X640 G40 在Closed(封閉)賽段所有已發(fā)布的產(chǎn)品中,獲得10項(xiàng)Datacenter組總體性能第一成績(jī),也是本次測(cè)試中的全場(chǎng)第一。
最新的MLPerf Inference v2.0設(shè)置了不同領(lǐng)域的Benchmark子項(xiàng),貼近前沿AI應(yīng)用場(chǎng)景。X640 G40在3D-UNet99(圖像分割)、SSD-large(目標(biāo)檢測(cè)重量級(jí))、Rnnt(語(yǔ)音辨識(shí))和Bert-99(自然語(yǔ)言處理)等多個(gè)經(jīng)典模型測(cè)試中均取得高光表現(xiàn)。
擁有強(qiáng)勁性能的寧暢X640 G40可針對(duì)不同AI場(chǎng)景和訓(xùn)練模型進(jìn)行互聯(lián)優(yōu)化,滿(mǎn)足不同類(lèi)型客戶(hù)需求。其中,SSD-large模型在線分?jǐn)?shù)8994.9、離線分?jǐn)?shù)9279.37,這一成績(jī)代表了寧暢X640 G40每秒可完成9200多張圖片中信息的分類(lèi)、定位與精準(zhǔn)檢測(cè),且可應(yīng)答近9000次實(shí)時(shí)目標(biāo)檢測(cè)的推理任務(wù);Rnnt模型離線分?jǐn)?shù)為127213,代表寧暢X640 G40每秒可完成12萬(wàn)次語(yǔ)音的識(shí)別請(qǐng)求。
X660 G45拿下Edge組單項(xiàng)性能冠軍,Datacenter組同配置7項(xiàng)第一
所有產(chǎn)品中,寧暢X660 G45搭載NVIDIA A100 Tensor Core 80GB GPU,在SSD-Mobilenet(目標(biāo)檢測(cè)移動(dòng)端)模型測(cè)試的Multi-Stream(多數(shù)據(jù)流)場(chǎng)景中,以0.44成績(jī)擊敗所有參賽產(chǎn)品,獲第一成績(jī)。同時(shí), X660 G45還取得Datacenter組同配置的7項(xiàng)第一,在SSD-large、ResNet、Bert-99、Dlrm -99(智能推薦)四項(xiàng)任務(wù)中都實(shí)現(xiàn)了極佳的性能結(jié)果。其ResNet得分在線為286,030、離線為316,636,代表寧暢X660 G45能夠每秒完成超過(guò)30萬(wàn)張圖片中各個(gè)事物類(lèi)別的海量識(shí)別。
X660 G45是專(zhuān)為深度學(xué)習(xí)訓(xùn)練開(kāi)發(fā)的高性能計(jì)算平臺(tái),采用600GB/s的NVLink總線高速互聯(lián),每個(gè)GPU還可搭配HDR 200Gb/s InfiniBand網(wǎng)絡(luò)和NVMe SSD高速緩存,幫助用戶(hù)搭建GPU高速集群,同時(shí)結(jié)合近500TB的本地存儲(chǔ)容量,可極大縮短AI模型訓(xùn)練時(shí)間。
X620 G40贏取Datacenter組同配置15項(xiàng)第一
本次測(cè)評(píng)中,搭載4顆NVIDIA A2 Tensor Core的寧暢X620 G40獲得Datacenter組同配置15項(xiàng)第一的成績(jī)。X620 G40在SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt和Dlrm-99等幾乎所有模型測(cè)試中都取得優(yōu)異成績(jī),充分證明產(chǎn)品在推理性能上出類(lèi)拔萃,能夠應(yīng)對(duì)各種復(fù)雜的 AI 挑戰(zhàn)。
X620 G40作為一款2U高度人工智能服務(wù)器,支持PCIe4.0高速總線技術(shù),適配N(xiāo)VIDIA各類(lèi)GPU加速卡,是理想AI推理計(jì)算平臺(tái),同時(shí)還可勝任桌面虛擬化、云游戲和視頻流轉(zhuǎn)碼等多IT行業(yè)用途需求。此外,X620 G40還具備關(guān)鍵部件健康狀態(tài)監(jiān)控和上報(bào)功能,可以為數(shù)據(jù)中心運(yùn)維保駕護(hù)航。
此次MLPerf Inference v2.0榜單的發(fā)布,進(jìn)一步彰顯了寧暢在AI服務(wù)器領(lǐng)域的實(shí)力地位。以此為依托,寧暢將持續(xù)推動(dòng)技術(shù)創(chuàng)新,不斷深入各種AI應(yīng)用場(chǎng)景,以智能定制算力賦能用戶(hù)更好發(fā)展。
-
人工智能
+關(guān)注
關(guān)注
1791文章
47229瀏覽量
238330 -
AI服務(wù)器
+關(guān)注
關(guān)注
2文章
104瀏覽量
4894 -
寧暢
+關(guān)注
關(guān)注
0文章
43瀏覽量
5368
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論