【天天聚看點(diǎn)】NVIDIA與軟銀公司合作,利用Grace Hopper超級(jí)芯片建設(shè)面向生成式AI和5G/6G的軟銀下一代數(shù)據(jù)中心

發(fā)布時(shí)間:2023-06-01 11:37:45  |  來源:通信世界全媒體  

(CWW)NVIDIA和軟銀公司近日宣布,雙方正在合作打造一個(gè)基于NVIDIA GH200 Grace Hopper?超級(jí)芯片、面向生成式AI和5G/6G應(yīng)用的開創(chuàng)性平臺(tái)。軟銀計(jì)劃在日本各地的全新分布式AI數(shù)據(jù)中心采用該平臺(tái)。

為在全球范圍內(nèi)快速部署生成式AI應(yīng)用和服務(wù)鋪平道路,通過與NVIDIA合作,軟銀將打造能夠在多租戶通用服務(wù)器平臺(tái)上托管生成式AI和無線應(yīng)用的數(shù)據(jù)中心,以降低成本和更節(jié)能。

該平臺(tái)將使用全新NVIDIA MGX?參考架構(gòu)和基于Arm Neoverse的GH200超級(jí)芯片,有望提高應(yīng)用程序工作負(fù)載的性能、可擴(kuò)展性和資源利用率。


【資料圖】

軟銀公司總裁兼首席執(zhí)行官Junichi Miyakawa表示:“隨著我們進(jìn)入一個(gè)社會(huì)與AI共存的時(shí)代,對(duì)數(shù)據(jù)處理和電力的需求將不斷增長(zhǎng)。軟銀將提供下一代社會(huì)基礎(chǔ)設(shè)施,以支持日本的超級(jí)數(shù)字化社會(huì)。與NVIDIA的合作將幫助我們的基礎(chǔ)設(shè)施利用AI實(shí)現(xiàn)更高的性能,包括對(duì)RAN的優(yōu)化。我們期待這也可以幫助我們降低能耗,創(chuàng)建一個(gè)互連的數(shù)據(jù)中心網(wǎng)絡(luò),用于共享資源并托管一系列生成式AI應(yīng)用?!?/p>

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“對(duì)加速計(jì)算和生成式AI的需求正在推動(dòng)數(shù)據(jù)中心架構(gòu)的根本性變革。NVIDIA Grace Hopper是一個(gè)革命性的計(jì)算平臺(tái),專為處理和擴(kuò)展生成式AI服務(wù)而設(shè)計(jì)。與以往富有遠(yuǎn)見的其它舉措一樣,軟銀正在引領(lǐng)世界創(chuàng)建一個(gè)電信網(wǎng)絡(luò)來承載生成式AI服務(wù)?!?/p>

相比以往的數(shù)據(jù)中心,這些新數(shù)據(jù)中心的分布將更加均衡,并能夠同時(shí)處理AI和5G工作負(fù)載。這將讓它們更好地保持峰值運(yùn)行,同時(shí)保持低時(shí)延并大幅降低總體能源成本。

軟銀正在為自動(dòng)駕駛、AI工廠、增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)、計(jì)算機(jī)視覺和數(shù)字孿生開發(fā)5G應(yīng)用。

虛擬RAN的吞吐量破紀(jì)錄

NVIDIA Grace Hopper和NVIDIA BlueField?-3 DPU將加速軟件定義的5G vRAN以及生成式AI應(yīng)用,而無需定制硬件加速器或?qū)S?G CPU。此外,配備BlueField-3的NVIDIA Spectrum以太網(wǎng)交換機(jī)將為5G提供高精度時(shí)間同步協(xié)議。

該解決方案在NVIDIA加速的1U MGX服務(wù)器設(shè)計(jì)上實(shí)現(xiàn)了突破性的5G速度,根據(jù)公開的5G加速器數(shù)據(jù),它實(shí)現(xiàn)了業(yè)內(nèi)吞吐量最高的36Gbps下行鏈路容量。運(yùn)營(yíng)商一直難以通過行業(yè)標(biāo)準(zhǔn)服務(wù)器實(shí)現(xiàn)如此高的下行鏈路容量。

全新參考架構(gòu)

NVIDIA MGX是一個(gè)模塊化參考架構(gòu),讓系統(tǒng)制造商和超大規(guī)模企業(yè)客戶能夠快速、經(jīng)濟(jì)地構(gòu)建100多種服務(wù)器機(jī)型,適用于各種AI、HPC和NVIDIA Omniverse? 應(yīng)用。

通過將NVIDIA Aerial? 軟件引入到高性能的軟件定義的云原生5G網(wǎng)絡(luò)中,這些5G基站將允許運(yùn)營(yíng)商動(dòng)態(tài)地分配計(jì)算資源,并實(shí)現(xiàn)比競(jìng)品高2.5倍的能效。

Arm首席執(zhí)行官Rene Haas表示:“生成式AI的未來發(fā)展需要高性能、節(jié)能的計(jì)算,就像NVIDIA 基于Arm Neoverse的 Grace Hopper超級(jí)芯片那樣。結(jié)合NVIDIA BlueField DPU,Grace Hopper使軟銀新的5G數(shù)據(jù)中心能夠運(yùn)行最苛刻的計(jì)算和內(nèi)存密集型應(yīng)用,并為Arm上的軟件定義5G和AI帶來指數(shù)級(jí)的能效提升?!?/p>

關(guān)鍵詞:

 

網(wǎng)站介紹  |  版權(quán)說明  |  聯(lián)系我們  |  網(wǎng)站地圖 

星際派備案號(hào):京ICP備2022016840號(hào)-16 營(yíng)業(yè)執(zhí)照公示信息版權(quán)所有 郵箱聯(lián)系:920 891 263@qq.com