(CWW)11月3日,寒武紀發(fā)布第三代云端AI芯片思元370。據(jù)介紹,思元370基于7nm工藝打造,也是寒武紀首款采用Chiplet(小芯片 or 芯粒)技術(shù)的AI芯片。思元370集成了390億個晶體管,最大算力高達256TOPS(INT8),是寒武紀第二代產(chǎn)品思元270算力的2倍。
官方表示,憑借寒武紀最新智能芯片架構(gòu)MLUarch03,相較于峰值算力的提升,思元370實測性能表現(xiàn)更為優(yōu)秀。
以ResNet-50為例,MLU370-S4加速卡(半高半長)實測性能為同尺寸主流GPU的2倍。
MLU370-X4加速卡(全高全長)實測性能與同尺寸主流GPU相當,能效則大幅領(lǐng)先。
值得一提的是,思元370也是國內(nèi)第一顆支持LPDDR5內(nèi)存的云端AI芯片,內(nèi)存帶寬是上一代產(chǎn)品的3倍,訪存能效達GDDR6的1.5倍。
解碼方面,思元370支持132路1080p視頻解碼或10路8K視頻解碼。
編碼上,全新編碼器通過靈活的碼率優(yōu)化(RDO)控制、多參考幀、二次編碼等特性組合,在相同圖像質(zhì)量(全高清視頻PSNR)的情況下比上一代產(chǎn)品節(jié)省42%帶寬,有效降低帶寬成本。