領(lǐng)跑59項(xiàng)AI基準(zhǔn)測試，靠定制突圍，寧暢坐穩(wěn)國內(nèi)加速服務(wù)器市場第二

智東西（公眾號：zhidxcom）

作者 | 楊暢

編輯 | 漠影

智東西4月8日報(bào)道，近日，權(quán)威AI性能基準(zhǔn)測試平臺MLPerf發(fā)布最新Inference v2.0推理測試結(jié)果。這份備受IT圈關(guān)注的“戰(zhàn)報(bào)”顯示，成立于2019年的服務(wù)器企業(yè)寧暢趕超眾多老牌國際服務(wù)器廠商，拿下了59項(xiàng)第一。

就在不久前，知名調(diào)查公司IDC發(fā)布最新《中國半年度加速計(jì)算市場（2021下半年）跟蹤》，顯示寧暢已位居中國加速服務(wù)器市場銷售榜第二。

隨著“東數(shù)西算”、綠色數(shù)據(jù)中心相關(guān)政策的出臺，以及人工智能（AI）、云計(jì)算等技術(shù)和應(yīng)用的加速落地，各行各業(yè)對于服務(wù)器性能相關(guān)的各項(xiàng)需求不斷的發(fā)生變化，2021年國內(nèi)服務(wù)器市場銷售額同比增加12.7%，達(dá)250.9億美元。各個(gè)服務(wù)器企業(yè)也不斷推出自己的新產(chǎn)品，國內(nèi)服務(wù)器市場競爭激烈。

想要在國內(nèi)的服務(wù)器市場中成功突圍，搶占更多的市場份額并不容易，那么寧暢是如何取得如此快速地發(fā)展的？而未來，隨著政策、行業(yè)、技術(shù)的變化和發(fā)展，國內(nèi)服務(wù)器市場又會有哪些變化，寧暢會選擇如何去迎接這些挑戰(zhàn)？智東西采訪了寧暢的首席技術(shù)官趙雷，溝通探討寧暢不斷突破背后的技術(shù)積淀和戰(zhàn)略思考。

一、拿下59項(xiàng)MLPerf測試第一，寧暢三款A(yù)I服務(wù)器立大功

本次MLPerf Inference v2.0測試共有超10家國際服務(wù)器廠商的數(shù)十種服務(wù)器產(chǎn)品參加。寧暢的X640 G40、X660 G45、X620 G40三款A(yù)I服務(wù)器斬獲了其中59項(xiàng)測試的第一名。

作為一家成立并不久的玩家，寧暢是如何屠榜的？首先，讓我們來看看寧暢的明星產(chǎn)品——X640 G40 AI服務(wù)器。

X640 G40是一款定位為多應(yīng)用場景的超級AI服務(wù)器，在Datacenter組所有已發(fā)布的產(chǎn)品中，贏得10類測試場景總體性能第一的成績，也是本次測試中的全場第一。

再來看看寧暢X660 G45，這款服務(wù)器搭載具備NVLink超高速互聯(lián)能力的NVIDIA A100 80GB Tensor Core GPU，在SSD-Mobilenet（目標(biāo)檢測移動(dòng)端）模型測試的Multi-Stream（多數(shù)據(jù)流）場景測試中，取得了0.44的成績，位居第一。

據(jù)悉，這一成績得益于X660 G45具備的兩大優(yōu)勢：一是GPU高速互聯(lián)，二是每個(gè)GPU有專屬的網(wǎng)絡(luò)設(shè)備和存儲，保證數(shù)據(jù)交互和讀取的高帶寬、低延遲。

最后，我們再來看看寧暢X620 G40。這款服務(wù)器搭載有4顆NVIDIA A2 Tensor Core GPU，取得了Datacenter組同配置15項(xiàng)第一，并且?guī)缀跛心Ｐ蜏y試中都表現(xiàn)優(yōu)異，作為一款超級AI 推理服務(wù)器，X620 G40可以滿足數(shù)據(jù)中和和邊緣端的推理、編解碼、虛擬化等需求。

今年是“十四五”第二年，智能計(jì)算中心等新基建仍是國家的發(fā)展重點(diǎn)。從2021年以來，國內(nèi)至少有26座城市都陸續(xù)開始或者加速進(jìn)行人工智能計(jì)算中心等人工智能算力基礎(chǔ)設(shè)施建設(shè)。隨著“東數(shù)西算”工程啟動(dòng)，全國算力一張網(wǎng)的建設(shè)需求更加緊迫。

根據(jù)IDC數(shù)據(jù)，國內(nèi)AI市場規(guī)模已達(dá)21.8億美元，同比增長42.2%。無論是從算力基礎(chǔ)設(shè)施層面還是AI行業(yè)發(fā)展層面，中國AI相關(guān)產(chǎn)業(yè)對于智能算力的需求在相應(yīng)的增加。

用戶對能提供智能算力的AI服務(wù)器的需求也在不斷增加。根據(jù)IDC預(yù)測，到2026年，中國加速計(jì)算服務(wù)器包括GPU等AI服務(wù)器的市場規(guī)模將達(dá)到103.4億美元。寧暢的X640 G40、X660 G45、X620 G40這三款A(yù)I服務(wù)器所屬于的服務(wù)器市場前景廣闊，依托優(yōu)異的性能表現(xiàn)，寧暢也已經(jīng)取得了一些突出的成績。

二、“智定”為核心，寧暢成第二，三方面因素加持

看完MLPerf戰(zhàn)報(bào)，我們再來看看寧暢的另一項(xiàng)成績單。那就是權(quán)威調(diào)查機(jī)構(gòu)IDC的數(shù)據(jù)：2021年下半年，寧暢占到了國內(nèi)加速計(jì)算服務(wù)器市場份額的8.5%，繼續(xù)穩(wěn)居第二。

寧暢首席技術(shù)官趙雷談道，從成立到現(xiàn)在，寧暢是處于一個(gè)穩(wěn)步上升的狀態(tài)，寧暢的通用服務(wù)器和GPU服務(wù)器的銷售額每個(gè)季度都有增長。

很長時(shí)間以來，國內(nèi)服務(wù)器市場都是一個(gè)巨頭掌握話語權(quán)的市場，為什么寧暢作為一家年輕企業(yè)，能夠在AI服務(wù)器這條賽道沖出重圍？結(jié)合與寧暢負(fù)責(zé)人的對話，我們可以看到大致有以下三方面因素：

首先，技術(shù)方面，寧暢有多年的積累。寧暢雖然成立僅2年多，但是技術(shù)團(tuán)隊(duì)已經(jīng)有十幾年的技術(shù)積累，技術(shù)人員在服務(wù)器領(lǐng)域的平均工作經(jīng)驗(yàn)都是8年以上，主要的核心技術(shù)人員工作經(jīng)驗(yàn)都在10年以上。

以GPU服務(wù)器為例，NVLink GPU服務(wù)器可以算是市場上最高端的GPU服務(wù)器之一，國內(nèi)僅有3家企業(yè)推出了8卡NVLink GPU服務(wù)器，充分說明了寧暢具備深厚的研發(fā)實(shí)力。

其次，用戶方面，寧暢的目標(biāo)用戶主要是大的行業(yè)用戶，分布于互聯(lián)網(wǎng)、金融電信、制造、醫(yī)療等多種領(lǐng)域。

目前，AI技術(shù)正加速在各行業(yè)深度融合和落地應(yīng)用，場景非常多變，對于定制算力的需求也在上升，相應(yīng)的定制服務(wù)器需求驟增。據(jù)IDC市場調(diào)研顯示，全球服務(wù)器市場定制化產(chǎn)品采購份額已達(dá)30%以上。

而寧暢能快速響應(yīng)用戶的定制化需求，為用戶在新基建和數(shù)字化轉(zhuǎn)型中的定制化需求第一時(shí)間提供出符合要求的產(chǎn)品，從而實(shí)現(xiàn)長期的合作。

趙雷指出寧暢收到了很多用戶的積極反饋和認(rèn)可。寧暢的企業(yè)用戶既有一些頭部的互聯(lián)網(wǎng)企業(yè)，還有一些行業(yè)主流的AI企業(yè)。寧暢為它們提供深度定制服務(wù)或OEM/ODM級別的定制服務(wù)。

第三方面是寧暢一直是緊跟政策需求和行業(yè)發(fā)展動(dòng)向的。面對像雙碳、新型數(shù)據(jù)中心等國家積極推進(jìn)的政策措施，寧暢都在第一時(shí)間推出了相應(yīng)的解決方案。

比如，國家規(guī)定新建的大型、超大型數(shù)據(jù)中心的PUE值不能超過1.3；同時(shí)，國家也在積極推進(jìn)“東數(shù)西算”這項(xiàng)全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐工程。于是，寧暢在近期推出了三款新系列液冷服務(wù)器產(chǎn)品：4U高密度服務(wù)器B5000 G4 LP、X660 G45 LP和通用服務(wù)器R620 G40 LP 2U，兼顧性能和能耗。

寧暢的B5000 G4 LP服務(wù)器擁有8個(gè)計(jì)算節(jié)點(diǎn)，采用的是全新的高效冷板式液冷散熱方式，兼顧降低能耗和提升性能。專為AI深度學(xué)習(xí)訓(xùn)練開發(fā)的6U旗艦型液冷計(jì)算平臺X660 G45 LP則是可以滿足熱功耗500W GPU散熱需求，可配合200G的網(wǎng)絡(luò)交換設(shè)備搭建GPU高速集群。寧暢的R620 G40 LP 2U服務(wù)器身形小巧、冷板可以靈活部署，能夠根據(jù)業(yè)務(wù)需求進(jìn)行彈性配置。

其實(shí)，對于寧暢來說，定制是寧暢服務(wù)器發(fā)展的核心定位。從成立之初的精細(xì)化定制目標(biāo)，到2021年寧暢確定“智定+”戰(zhàn)略并推出了兼顧性能和節(jié)能的G40系列產(chǎn)品，寧暢不斷在升級其定制化的戰(zhàn)略重點(diǎn)。寧暢參與本次MLPerf基準(zhǔn)測試的三款服務(wù)器產(chǎn)品中有兩款就是G40系列產(chǎn)品。

結(jié)語：服務(wù)器市場穩(wěn)步增長，寧暢堅(jiān)持定制為核心

根據(jù)IDC數(shù)據(jù)，2021年國內(nèi)服務(wù)器市場銷售額達(dá)250.9億美元，同比增長12.7%，加速服務(wù)器方面，2021年中國市場規(guī)模同比增長68.6%。綜合來看，國內(nèi)市場對服務(wù)器的需求穩(wěn)步增長。

2022年，隨著各行各業(yè)的數(shù)智化轉(zhuǎn)型進(jìn)入深水區(qū)，AI服務(wù)器市場競爭也將更加激烈。作為服務(wù)器領(lǐng)域的新玩家，寧暢已實(shí)現(xiàn)了快速增長，市占率保持領(lǐng)先。如果寧暢能繼續(xù)保持目前的發(fā)展態(tài)勢，有望在國內(nèi)服務(wù)器領(lǐng)域獲得更多突破。

關(guān)鍵詞： 領(lǐng)跑59項(xiàng)AI基準(zhǔn)測試 靠定制突圍 寧暢坐穩(wěn)國內(nèi)加速服務(wù)器