Rambus宣布推出HBM3內(nèi)存接口子系統(tǒng) 可為人工智能提供TB級(jí)帶寬

今天，美國(guó)內(nèi)存 IP 廠(chǎng)商 Rambus 宣布推出 HBM3 內(nèi)存接口子系統(tǒng)，其傳輸速率達(dá) 8.4Gbps，可以為人工智能/機(jī)器學(xué)習(xí)(AI/ML)和高性能計(jì)算(HPC)等應(yīng)用提供 TB 級(jí)帶寬，是當(dāng)前速率最快的 HBM 產(chǎn)品。預(yù)計(jì) 2022 年末或 2023 年初，Rambus HBM3 將會(huì)流片，實(shí)際應(yīng)用于數(shù)據(jù)中心、AI、HPC 等領(lǐng)域。

芯東西等媒體與 Rambus 大中華區(qū)總經(jīng)理蘇雷、Rambus IP 核產(chǎn)品營(yíng)銷(xiāo)高級(jí)總監(jiān) Frank Ferro 就 Rambus HBM3 的具體性能以及 Rambus 對(duì)客戶(hù)的支持等進(jìn)行了深入交流。

一、支持 8.4Gbps 數(shù)據(jù)傳輸速率，帶寬超 TB

據(jù) Frank 分享，隨著越來(lái)越多的公司進(jìn)入人工智能市場(chǎng)，這對(duì)內(nèi)存帶寬提出了很多要求，而神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等 AI 應(yīng)用也在不斷推動(dòng)內(nèi)存帶寬增長(zhǎng)。

咨詢(xún)公司 IDC 內(nèi)存半導(dǎo)體副總裁 Soo Kyoum Kim 曾稱(chēng)：“AI/ML 訓(xùn)練對(duì)內(nèi)存帶寬的需求永無(wú)止境，一些前沿訓(xùn)練模型現(xiàn)已擁有數(shù)以十億的參數(shù)。”

Rambus 的 HBM3 內(nèi)存子系統(tǒng)提高了原有性能標(biāo)準(zhǔn)，包含完全集成的 PHY 和數(shù)字控制器，可以支持當(dāng)下很多 AI 及 HPC 應(yīng)用。

具體來(lái)說(shuō)，HBM3 的數(shù)據(jù)傳輸速率高達(dá)8.4Gbps/pin，帶寬達(dá) 1075.2GB/s(1.075TB/s)。Rambus 的 HBM3 支持標(biāo)準(zhǔn)的 64 位 16 通道，支持 2、4、8、12 和 16 HBM3 DRAM 堆棧，信道密度達(dá) 32Gb。

Frank 回應(yīng)芯東西記者問(wèn)題時(shí)稱(chēng)，HBM3 的流片時(shí)間預(yù)計(jì)為 18 個(gè)月，因此可能會(huì)在 2022 年末或 2023 年初出片，并實(shí)際應(yīng)用于部分客戶(hù)。

Frank 稱(chēng)，由于其數(shù)據(jù)傳輸速率和帶寬較高，HBM3 可以應(yīng)用于 AI、機(jī)器學(xué)習(xí)、HPC 等多種應(yīng)用。

HBM3 采用了 2.5D 架構(gòu)，最上面集成了 4 條 DRAM 內(nèi)存條，通過(guò)堆疊的方式集成在了一起。內(nèi)存條下方是 SoC 和中介層，最下面的綠色部分則是封裝。

對(duì)客戶(hù)來(lái)說(shuō)，Rambus 會(huì)提供 SI/PI 專(zhuān)家技術(shù)支持，確保設(shè)備和系統(tǒng)具有最優(yōu)的信號(hào)和電源完整性。作為 IP 授權(quán)的一部分，Rambus 也將提供 2.5D 封裝和中介層參考設(shè)計(jì)。

Frank 還給出了 HBM 性能的演進(jìn)圖。

2016 年 HBM2 的帶寬為 256GB/s，I/O 數(shù)據(jù)速率為 2Gbps;HBM2E 的帶寬則能達(dá)到 460GB/s，數(shù)據(jù)傳輸速率達(dá) 3.6Gbps;SK 海力士公布的 HBM3 帶寬和傳輸速率分別為 665GB/s 和 5.2Gbps;Rambus 的 HBM3 性能又進(jìn)一步提升，分別達(dá) 1075GB/s 和 8.4Gbps。

Frank 強(qiáng)調(diào)，雖然 Rambus 的 HBM3 性能比 SK 海力士此前公布的要更進(jìn)一步，但 SK 海力士作為 Rambus 的重要客戶(hù)，Rambus 也會(huì)為其提供支持。

蘇雷還透露，當(dāng)前國(guó)內(nèi)的一流 AI 芯片廠(chǎng)商都和 Rambus 有所接觸，預(yù)計(jì)行業(yè)將會(huì)快速升級(jí)到 HBM3 標(biāo)準(zhǔn)。

二、Rambus 優(yōu)勢(shì)：市場(chǎng)經(jīng)驗(yàn)豐富、支持多廠(chǎng)商制程節(jié)點(diǎn)

對(duì)于 Rambus 能夠?yàn)榭蛻?hù)提供的服務(wù)，F(xiàn)rank 提到 Rambus 在 HBM 市場(chǎng)中擁有豐富的經(jīng)驗(yàn)和技術(shù)優(yōu)勢(shì)。

Rambus 在 2016 年就進(jìn)入了 HBM 市場(chǎng)，其 HBM2E 內(nèi)存子系統(tǒng)擁有行業(yè)中最快的 4Gbps 速率。

憑借產(chǎn)品性能，Rambus 獲得了超過(guò) 50 個(gè)市場(chǎng)訂單，是市場(chǎng)份額排名第一的 HBM IP 供應(yīng)商。Rambus 的芯片開(kāi)發(fā)基本一次就能成功，無(wú)需返工，提升了設(shè)計(jì)效率。

同時(shí)，Rambus 的 HBM2/2E PHY(端口物理層)支持臺(tái)積電、三星等多個(gè)先進(jìn)制程節(jié)點(diǎn)。其產(chǎn)品集成了 PHY、IO、Decap 等，其客戶(hù)可以直接采用。

Rambus 也與 SK 海力士、三星等 DRAM 供應(yīng)商關(guān)系緊密，其測(cè)試芯片已經(jīng)經(jīng)過(guò)了市場(chǎng)上所有供應(yīng)商的 DRAM 驗(yàn)證，能夠?yàn)榭蛻?hù)提供便捷地服務(wù)。

三、2025 年全球數(shù)據(jù)使用量將達(dá)到 175ZB，AI 芯片市場(chǎng)將達(dá)百億美元

Rambus 大中華區(qū)總經(jīng)理蘇雷分享了近年來(lái) Rambus 所取得的成績(jī)。Rambus 創(chuàng)建時(shí)間已經(jīng)超過(guò) 30 年，公司總部位于美國(guó)加利福尼亞州，在歐盟和亞洲等地設(shè)有辦事處，全球員工人數(shù)超過(guò) 600 人。

Rambus 擁有 3000 余項(xiàng)專(zhuān)利和應(yīng)用，2020 年經(jīng)營(yíng)現(xiàn)金流達(dá) 1.855 億美元，來(lái)自產(chǎn)品、合同等收入同比增長(zhǎng) 41%。其主要的客戶(hù)有三星、美光、SK 海力士等內(nèi)存廠(chǎng)商和高通、AMD、英特爾等芯片廠(chǎng)商，Rambus 75% 以上的收入來(lái)自于數(shù)據(jù)中心和邊緣計(jì)算產(chǎn)品銷(xiāo)售。

從市場(chǎng)來(lái)說(shuō)，人工智能/機(jī)器學(xué)習(xí)越來(lái)越多地應(yīng)用于各個(gè)領(lǐng)域。預(yù)計(jì)到 2025 年，超過(guò) 25% 的服務(wù)器將用于人工智能領(lǐng)域，AI 芯片市場(chǎng)將達(dá)到 100 億美元。

2025 年，全球數(shù)據(jù)使用量將達(dá)到 175ZB，年均復(fù)合增長(zhǎng)率達(dá) 35%，服務(wù)器整體年增長(zhǎng)率為 8%。蘇雷稱(chēng)，Rambus 也將致力于使數(shù)據(jù)傳輸更快、更安全。

結(jié)語(yǔ)：HBM3 將推動(dòng) AI、HPC 應(yīng)用發(fā)展

相對(duì)于 GDDR 顯存，HBM 有著高帶寬的特性，是數(shù)據(jù)密集型應(yīng)用內(nèi)存和數(shù)據(jù)處理瓶頸的解決方案之一。

本次 Rambus HBM3 IP 的推出，將再次推動(dòng) HBM 產(chǎn)品性能的提升，推動(dòng)人工智能、高性能計(jì)算等應(yīng)用發(fā)展。

關(guān)鍵詞： Rambus HBM3 內(nèi)存接口 子系統(tǒng)