本文編譯自EETimes
Microchip Technology Inc. 正在通過其自己的控制器技術(shù)及其專注于邊緣低功耗內(nèi)存技術(shù)的子公司來應(yīng)對(duì)人工智能 (AI) 挑戰(zhàn)。
Microchip 支持 PCIe Gen 5 NVMe 2.0 的 SSD 控制器 Flashtec NVMe 4016 通過 16 個(gè)高速可編程 NAND 閃存通道提高了讀寫速度,高達(dá)2,400 MT/s,并提供 14 GB/s 的吞吐量和超過300 萬次操作。它還支持所有最新的存儲(chǔ)和性能計(jì)算應(yīng)用程序,包括ZNS分區(qū)等。
Microchip 的 Flashtec NVMe 4016 包括一個(gè)全新的可編程機(jī)器學(xué)習(xí)引擎,能夠?qū)崿F(xiàn)各種模式識(shí)別和分類功能(來源:Microchip)
Microchip 數(shù)據(jù)中心解決方案產(chǎn)品管理副總監(jiān) Samer Haija 表示,ZNS 仍然被認(rèn)為是利基市場(chǎng),盡管該公司確實(shí)看到基于其控制器的部署有所增加。
“ZNS 是一項(xiàng)非常有前途的技術(shù),迄今為止其吸引力有限,主要是因?yàn)樾枰呒?jí)別的部件才能使其大規(guī)模工作?!盚aija 說。但要讓 ZNS 廣泛發(fā)展,SSD 提供商和應(yīng)用程序提供商需要開發(fā)一套標(biāo)準(zhǔn)、工具和驅(qū)動(dòng)程序,以方便更多的數(shù)據(jù)中心利用該技術(shù)?!翱吹饺呛臀鞑繑?shù)據(jù)宣布推動(dòng)這一領(lǐng)域的標(biāo)準(zhǔn)化,令人鼓舞?!盚aija說。
雖然速度和性能對(duì)于滿足 AI 需求至關(guān)重要,但閃存面臨著新的壓力;控制器技術(shù)可以幫助緩解后端的 NAND 管理。Flashtec NVMe 4016 的可編程架構(gòu)使 SSD 開發(fā)人員能夠通過固件定制優(yōu)化產(chǎn)品差異化,并包括一個(gè)新的可編程機(jī)器學(xué)習(xí) (ML) 引擎,該引擎能夠在 AI 和 ML 應(yīng)用中使用各種模式識(shí)別和分類功能。
ML 引擎由輸入層、零個(gè)或多個(gè)隱藏層和一個(gè)輸出層組成。該引擎的輸入層,負(fù)責(zé)從外部源接收輸入。隱藏層在包含權(quán)重和偏差的隱藏層內(nèi)的神經(jīng)元的幫助下分析數(shù)據(jù)并執(zhí)行學(xué)習(xí)過程。
基于這些權(quán)重和偏差,當(dāng)達(dá)到閾值時(shí)激活神經(jīng)元,輸出層提供預(yù)測(cè)輸出。NVMe SSD 中的固件與 ML 引擎連接,以發(fā)送模型配置、輸入和訓(xùn)練數(shù)據(jù),并接收最終輸出。使用 ML 引擎的固件執(zhí)行 AI 操作與輸出。
“SSD 通常是為合成和通用工作負(fù)載而設(shè)計(jì)的,大多數(shù) SSD 設(shè)計(jì)團(tuán)隊(duì)實(shí)施的 SSD 和媒體管理算法并不完全了解 SSD 在其生命周期中的流程?!盚aija 說。 “控制器中的 AI 引擎支持實(shí)時(shí) NAND 管理算法適應(yīng),無論 SSD 所承受的工作負(fù)載類型如何?!?/p>
Microchip 的專用引擎釋放了控制器中的計(jì)算資源。同時(shí),它仍然足夠通用,可以開發(fā)與應(yīng)用程序無關(guān)的 AI/ML 應(yīng)用程序,并在不影響數(shù)據(jù)完整性的情況下平衡性能、功率、成本和易用性。
Microchip 的 SSD 控制器業(yè)務(wù)是其數(shù)據(jù)中心解決方案的一部分,該解決方案不僅限于 AI,包括 PCIe 交換機(jī)和結(jié)構(gòu)、PCIe/CXL ReTimer和串行內(nèi)存控制器。
SST 的 SuperFlash memBrain 用于 WITINMEM 的超低功耗 SoC(來源:SST)
與此同時(shí),該公司的子公司 Silicon Storage Technology (SST) 更專注于人工智能,其內(nèi)存計(jì)算技術(shù)旨在消除與在網(wǎng)絡(luò)邊緣執(zhí)行人工智能語音處理相關(guān)的數(shù)據(jù)通信瓶頸。SST 的 SuperFlash memBrain 神經(jīng)形態(tài)內(nèi)存解決方案已成功應(yīng)用于 WITINMEM 的超低功耗 SoC,其采用內(nèi)存計(jì)算技術(shù)進(jìn)行神經(jīng)網(wǎng)絡(luò)處理,包括語音識(shí)別、聲紋識(shí)別、深度語音降噪、場(chǎng)景檢測(cè)和健康狀態(tài)監(jiān)控。
SST 的 SuperFlash memBrain 是一種多級(jí)非易失性內(nèi)存解決方案,支持用于 ML 深度學(xué)習(xí)應(yīng)用的內(nèi)存計(jì)算架構(gòu)。據(jù) SST 授權(quán)部門副總裁 Mark Reiten 稱,它的 SuperFlash memBrain 依賴于該公司的標(biāo)準(zhǔn) SuperFlash 單元,該單元已經(jīng)在許多代工廠生產(chǎn)。他說,專用的模擬協(xié)處理器設(shè)計(jì)件自 2015 年以來一直在開發(fā)中,可以比數(shù)字系統(tǒng)更有效地執(zhí)行 ML 處理。
WITINMEM 神經(jīng)處理 SoC 是第一個(gè)量產(chǎn)的 SoC,它使mA功耗級(jí)別的系統(tǒng)也能夠處理減少語音噪聲并識(shí)別數(shù)百個(gè)命令詞,無論是實(shí)時(shí)還是上電。memBrain 神經(jīng)形態(tài)內(nèi)存產(chǎn)品經(jīng)過優(yōu)化,可以為神經(jīng)網(wǎng)絡(luò)執(zhí)行向量矩陣乘法,并使其效率最高,從而滿足電池驅(qū)動(dòng)或深度嵌入式邊緣設(shè)備中應(yīng)用。
Reiten說,通過將神經(jīng)模型權(quán)重值直接存儲(chǔ)在內(nèi)存陣列中,并使用內(nèi)存陣列作為神經(jīng)計(jì)算元件來實(shí)現(xiàn)更低的功耗。由于不需要外部 DRAM 和 NOR,因此構(gòu)建起來也更便宜。
“一旦你將這些轉(zhuǎn)移到 DRAM,你的功耗就會(huì)急劇上升,整個(gè)系統(tǒng)的成本也會(huì)急劇上升,”Reiten 說?!斑@就是我們?cè)噲D解決的問題?!?/p>
在 memBrain 解決方案的處理元素中永久存儲(chǔ)神經(jīng)模型還支持即時(shí)神經(jīng)網(wǎng)絡(luò)處理功能。
最近為 AI和神經(jīng)網(wǎng)絡(luò)開發(fā)的存內(nèi)計(jì)算級(jí)別都圍繞著電阻式 RAM (ReRAM)進(jìn)行,而 SST 已經(jīng)在內(nèi)部完成了一些自己的開發(fā)。Reiten 解釋說,多個(gè)單元的編程非常耗時(shí)并且存在精度問題,因此需要更多的創(chuàng)新工作,才能更好的突破每個(gè)單元存儲(chǔ)一位的限制。
“學(xué)者們正在廣泛開展這一領(lǐng)域的研究工作,他們對(duì)此感到興奮,但當(dāng)你想要制作有價(jià)值的東西時(shí),這是一個(gè)完全不同的比賽?!?/p>
關(guān)鍵詞: Microchip利用AI技術(shù)解決SSD控制和存內(nèi)計(jì)算等市場(chǎng)難題