(CWW)7月7日上午,在2023世界人工智能大會(huì)“AI生成與垂直大語言模型的無限魅力”主題論壇上,UCloud優(yōu)刻得AIGC算力底座亮相,優(yōu)刻得董事長(zhǎng)兼CEO季昕華發(fā)表了“中立安全云計(jì)算助力大模型發(fā)展”主題演講,介紹優(yōu)刻得在AIGC領(lǐng)域的技術(shù)產(chǎn)品、工程能力和生態(tài)建設(shè)等發(fā)展情況。
作為具有10年云計(jì)算技術(shù)積累和全面工程能力的優(yōu)刻得,全面擁抱了這次AIGC引爆的科技熱潮。在演講開始,季昕華展示了優(yōu)刻得公司內(nèi)部系統(tǒng)的“AI化”,短短幾個(gè)月內(nèi),就基于公司內(nèi)部使用場(chǎng)景,迅速推出了:“識(shí)問”智能助手平臺(tái),UCoder代碼助手平臺(tái),AI繪畫助手平臺(tái)、大模型安全管理平臺(tái)等。優(yōu)刻得通過對(duì)AIGC應(yīng)用側(cè)的快速響應(yīng)和研發(fā),展示了在這個(gè)領(lǐng)域內(nèi)“玩兒得轉(zhuǎn)”的技術(shù)實(shí)力和工程能力、以及對(duì)用戶場(chǎng)景的敏感洞察力。
【資料圖】
由AIGC引爆的熱潮里,國(guó)內(nèi)大模型已百花齊放,競(jìng)速神通,但也面臨算力、數(shù)據(jù)、模型穩(wěn)定性、工程能力及安全等多方面的挑戰(zhàn)。
針對(duì)AIGC發(fā)展的問題,優(yōu)刻得在本次WAIC上隆重亮相的AIGC解決方案全景圖,通過深厚的技術(shù)積累和全面的系統(tǒng)工程能力,推出涵蓋了數(shù)據(jù)中心、計(jì)算平臺(tái)、管理平臺(tái)、網(wǎng)絡(luò)服務(wù)、應(yīng)用服務(wù)、生態(tài)接口的一系列產(chǎn)品和解決方案。開放、安全、定制的AIGC解決方案讓客戶既能利舊已有服務(wù)器資源,又可以便捷享受公有云的彈性擴(kuò)容,實(shí)現(xiàn)IT層面的降本增效。并可通過數(shù)據(jù)中心托管專區(qū),為用戶提供完全物理隔離的獨(dú)享機(jī)柜、服務(wù)器、網(wǎng)絡(luò)、存儲(chǔ)資源,結(jié)合完整的安全方案和專家服務(wù),確保了用戶的大模型平穩(wěn)運(yùn)行。
優(yōu)刻得在國(guó)家“東數(shù)西算”算力樞紐節(jié)點(diǎn),自建了低成本、高附加值的數(shù)據(jù)中心,相較北京同等質(zhì)量的數(shù)據(jù)中心,成本下降40%。數(shù)據(jù)中心內(nèi),提供多款GPU算力資源選擇,可為大模型的AI訓(xùn)練、推理、數(shù)據(jù)處理等多場(chǎng)景打造靈活、可擴(kuò)展的算力服務(wù),充分滿足高電算力集群的高電需求。同時(shí),通過IB和RoCE的高性能網(wǎng)絡(luò),打造互聯(lián)的高性能計(jì)算集群,實(shí)現(xiàn)多節(jié)點(diǎn)間無損通信,滿足用戶多節(jié)點(diǎn)并行計(jì)算的場(chǎng)景需求。
優(yōu)刻得 AIGC解決方案全景圖
優(yōu)刻得的AIGC金翼專區(qū),分為“訓(xùn)練區(qū)、存儲(chǔ)區(qū)、推理區(qū)和管理區(qū)”,在訓(xùn)練區(qū)主要以A800/H800進(jìn)行集群專區(qū)建設(shè),集群規(guī)模最大可達(dá)2048卡規(guī)模。并通過高帶寬、低延遲的設(shè)計(jì),提升整體訓(xùn)練效率。在存儲(chǔ)區(qū),根據(jù)高讀寫帶寬的場(chǎng)景特點(diǎn),采用冷熱分離的存儲(chǔ)系統(tǒng)設(shè)計(jì),并支持POSIX、K8S CSI掛載方式,不僅能滿足訓(xùn)練需求,同時(shí)保障成本可控。在推理區(qū),通過內(nèi)網(wǎng)打通同可用區(qū)公有云GPU資源池,具備多種類推理GPU資源,彈性可伸縮的滿足多場(chǎng)景推理需求。在管理區(qū),提供日志、調(diào)度、IPMI管控、自動(dòng)化裝機(jī)和公網(wǎng)訪問等能力,協(xié)助用戶進(jìn)行更為便捷的遠(yuǎn)程管理。
在AIGC應(yīng)用服務(wù)方面,為了滿足客戶對(duì)大模型的需求,優(yōu)刻得以MaaS模式,推出“算法模型鏡像市場(chǎng)”,上線Alpaca-LoRA7B、ChatGLM-6B、T5-Base、T5-3B、MiniGPT-4、Stable Diffusion 、Milvus向量數(shù)據(jù)庫等7款開源模型和工具,覆蓋知識(shí)推理、問答、圖文生成及繪畫設(shè)計(jì)等 AI 應(yīng)用領(lǐng)域。通過“大模型+大算力”的方式,提供一鍵部署和開箱即用能力,為用戶快速搭建大語言模型的微調(diào)或者推理環(huán)境。
私有化是垂直大模型的發(fā)展方向,針對(duì)政府、金融、教育、制造、基金等客戶大模型場(chǎng)景,優(yōu)刻得 AIGC 私有化算力中心和全棧私有云平臺(tái),從大模型訓(xùn)練推理多樣化場(chǎng)景出發(fā),為客戶推薦機(jī)型提供預(yù)裝部分工具的鏡像;并提供推理GPU算力/網(wǎng)絡(luò)資源;同時(shí)結(jié)合優(yōu)刻得一云多芯且自主可控的私有云平臺(tái),提供虛擬化、存儲(chǔ)、網(wǎng)絡(luò)及 MaaS 模型的私有化交付解決方案,支持 Alpaca-LoRA、ChatGLM、T5、MiniGPT-4 及 Stable Diffusion 等大模型,可覆蓋知識(shí)推理、問答、圖文生成及繪畫設(shè)計(jì)等 AI 應(yīng)用領(lǐng)域,從而在用戶本地或自己數(shù)據(jù)中心內(nèi)部署針對(duì)特定場(chǎng)景的大模型服務(wù),既可以為內(nèi)部提供AI訓(xùn)練/推理服務(wù),也可選擇性對(duì)外提供AI推理服務(wù)。
優(yōu)刻得 AIGC 私有化方案架構(gòu)圖
作為中立云計(jì)算企業(yè),優(yōu)刻得AIGC解決方案具有獨(dú)特的優(yōu)勢(shì):一是中立,優(yōu)刻得作為中立第三方,與大模型企業(yè)沒有競(jìng)爭(zhēng),不觸碰用戶的隱私數(shù)據(jù)。二是安全可靠,優(yōu)刻得具有內(nèi)資背景,系列安全防護(hù)產(chǎn)品及數(shù)據(jù)保護(hù)機(jī)制,確保大模型訓(xùn)練穩(wěn)定可靠運(yùn)行。并支持私有化部署。三是技術(shù)沉淀,優(yōu)刻得具有超10年云計(jì)算技術(shù)沉淀,已經(jīng)超5萬家企業(yè)級(jí)消費(fèi)用戶驗(yàn)證,更好的為大模型提供穩(wěn)定的高性能算力服務(wù)。四是工程能力,優(yōu)刻得能夠從數(shù)據(jù)中心、底層架構(gòu)做到算力平臺(tái)、模型庫等,具有一站式系統(tǒng)工程服務(wù)能力。
隨著AIGC的繼續(xù)發(fā)展和走向行業(yè)縱深,UCloud優(yōu)刻得將通過中立安全的算力底座,與技術(shù)層、應(yīng)用層的合作伙伴一起,探索AIGC更大的發(fā)展前景和更廣闊的發(fā)展空間。智算無界,生成未來。
關(guān)鍵詞: