“全球范圍內(nèi),多模態(tài)大模型的開發(fā)仍主要依賴于國外成熟平臺,我國在訓(xùn)推一體化設(shè)備、軟硬件協(xié)同系統(tǒng)方面較薄弱”,杭州電子科技大學(xué)計(jì)算機(jī)學(xué)院副教授曾艷對記者說道。她帶領(lǐng)的研究生團(tuán)隊(duì)聯(lián)合杭州人工智能計(jì)算中心(下稱:杭州智算中心)等單位申報(bào)“2024年浙江省重點(diǎn)研發(fā)項(xiàng)目”,并獲批。
該項(xiàng)目聚焦人工智能大模型領(lǐng)域,攻關(guān)軟硬件一體化系統(tǒng),支持多模態(tài)大模型的訓(xùn)練與推理兩大核心任務(wù),性能對標(biāo)國外主流軟硬件協(xié)同方案,可實(shí)現(xiàn)多模態(tài)大模型訓(xùn)推系統(tǒng)的進(jìn)口替代。
杭州人工智能計(jì)算中心位于杭州高新區(qū)(濱江)海創(chuàng)基地
作為項(xiàng)目參與方之一,杭州智算中心不同于科研單位或商業(yè)企業(yè),是人工智能與大模型浪潮下應(yīng)運(yùn)而生的新型基礎(chǔ)設(shè)施。作為全市首個(gè)公共服務(wù)性質(zhì)的AI智能算力平臺,中心由杭州高新區(qū)(濱江)管委會和政府投資建設(shè),不僅踐行普惠算力供給的本職;更以算力需求為抓手,為本地產(chǎn)業(yè)集聚、應(yīng)用孵化與成果轉(zhuǎn)化、科研創(chuàng)新與人才培養(yǎng)等產(chǎn)業(yè)發(fā)展需求,提供專業(yè)化運(yùn)營服務(wù)。
一、算力需求牽引科研攻關(guān)
與大多數(shù)合作類似,曾艷團(tuán)隊(duì)與杭州智算中心的結(jié)識始于算力需求!拔覀兿壬暾埩艘粋(gè)月的算力免費(fèi)試用,”曾艷回憶道,“由于科研工作較強(qiáng)的原創(chuàng)性,技術(shù)適配要求高,運(yùn)營團(tuán)隊(duì)不僅提供了全面的技術(shù)支持,更為我們聯(lián)系了產(chǎn)品端的研發(fā)人員一起解決難題!
杭州智算中心基于昇騰神經(jīng)網(wǎng)絡(luò)處理單元(NPU),構(gòu)建了一套全棧國產(chǎn)化、開源開放、安全高效的軟硬件算力集群,可支持千億級參數(shù)大模型運(yùn)行,以及深度學(xué)習(xí)模型與算法的訓(xùn)推、應(yīng)用等豐富場景。針對算力使用者從數(shù)據(jù)準(zhǔn)備、代碼開發(fā)到運(yùn)維部署等不同階段的需求,中心推出全流程工具鏈和一站式開發(fā)平臺,并配備技術(shù)團(tuán)隊(duì),手把手指導(dǎo)與答疑。
基于前期適配階段建立的默契與信任,曾艷團(tuán)隊(duì)選定與杭州智算中心一同推進(jìn)科研項(xiàng)目。“我們從硬件設(shè)備和軟件框架兩個(gè)層面協(xié)同攻關(guān),在多模態(tài)大模型研發(fā)、訓(xùn)練與推理軟硬件一體化系統(tǒng)等多個(gè)層面實(shí)現(xiàn)協(xié)同創(chuàng)新!痹G解釋道,該系統(tǒng)可同時(shí)處理文本、音頻和視頻等多種類型數(shù)據(jù),并能夠在同一設(shè)備上進(jìn)行迭代訓(xùn)練與推理部署,可有效補(bǔ)齊我國對應(yīng)領(lǐng)域的技術(shù)和產(chǎn)業(yè)短板。
不止于核心技術(shù)攻關(guān),AI算力的潛力也體現(xiàn)在腦機(jī)智能等前瞻性創(chuàng)新上!耙恢币詠恚n題組非常期望依托國產(chǎn)算力展開科學(xué)研究”,浙江大學(xué)求是高等研究院教授鄭能干告訴記者。他長期從事感知-運(yùn)動控制的腦機(jī)智能研究,用于研制新型動物機(jī)器人。
“在杭州智算中心、昇騰團(tuán)隊(duì)的全方位支持下,我們大幅提升了全腦神經(jīng)元數(shù)據(jù)重建的速度,將單個(gè)鼠腦數(shù)據(jù)的分割與預(yù)重建時(shí)間縮短到一周,”鄭能干介紹,“該技術(shù)幫助我們更好地理解腦部神經(jīng)元之間的復(fù)雜連接,為腦機(jī)智能和動物機(jī)器人研究提供了必要的神經(jīng)科學(xué)基礎(chǔ)。”
二、構(gòu)建產(chǎn)學(xué)研生態(tài)圈,打通成果轉(zhuǎn)化“最后一公里”
高效的算力服務(wù)推動創(chuàng)新孵化跑出“加速度”。自2022年成立以來,杭州智算中心已累計(jì)服務(wù)企業(yè)、高校、科研機(jī)構(gòu)200余家,成功孵化超過50個(gè)行業(yè)大模型和應(yīng)用創(chuàng)新,覆蓋科教文衛(wèi)等十余個(gè)行業(yè)。
在解決單點(diǎn)算力需求之外,杭州智算中心亦是多方資源匯聚與聯(lián)動的“樞紐站”!八懔π枨蟮牧硪幻媸钱a(chǎn)業(yè)資源,我們將需求與資源整合、精準(zhǔn)再匹配;通過打造創(chuàng)新聯(lián)合體等形式,解決產(chǎn)業(yè)共性問題。”杭州智算中心負(fù)責(zé)人表示。
“面向技術(shù)攻關(guān)類挑戰(zhàn)性項(xiàng)目,區(qū)科技局等上級單位給予了中心更多支持”,負(fù)責(zé)人介紹,“比如在多模態(tài)大模型項(xiàng)目中,以多模態(tài)大模型項(xiàng)目為例,中心整合‘硬件-軟件-算法-應(yīng)用’全鏈條資源,聯(lián)合浙江大學(xué)、之江實(shí)驗(yàn)室及行業(yè)龍頭企業(yè),共建創(chuàng)新聯(lián)合體。
杭州人工智能計(jì)算中心聯(lián)合昇騰AI計(jì)算產(chǎn)業(yè)上下游伙伴聯(lián)合發(fā)布生態(tài)鏈
為切實(shí)突破創(chuàng)新瓶頸,聚焦“強(qiáng)鏈”“補(bǔ)鏈”戰(zhàn)略,杭州智算中心聯(lián)合昇騰人工智能產(chǎn)業(yè)上下游的關(guān)鍵伙伴,整合研、造、用、服等領(lǐng)域的研究機(jī)構(gòu)和企業(yè)單位,構(gòu)建從技術(shù)孵化到成果落地的完整閉環(huán),形成產(chǎn)學(xué)協(xié)同系統(tǒng)優(yōu)勢。
以多模態(tài)大模型項(xiàng)目為例,記者了解到,中心首先為項(xiàng)目對接了新能源、電網(wǎng)電力等亟待智能化升級的行業(yè)場景;針對項(xiàng)目私有化部署、開發(fā)高效的優(yōu)勢,中心進(jìn)一步挖掘了面向數(shù)據(jù)安全、開發(fā)效率有明確需求的企業(yè),為創(chuàng)新成果與行業(yè)需求精準(zhǔn)對接,讓創(chuàng)新有所落,讓技術(shù)有所依。
由此,上下游企業(yè)、高校、院所等創(chuàng)新要素得以深度集聚聯(lián)動,形成合力攻克關(guān)鍵技術(shù),打造集基礎(chǔ)研究、試驗(yàn)驗(yàn)證、成果轉(zhuǎn)化于一體的AI產(chǎn)業(yè)生態(tài)圈。
三、人才生態(tài)培育創(chuàng)新活水
上個(gè)月,杭州智算中心聯(lián)合浙江大學(xué)、杭州電子科技大學(xué)、浙江工業(yè)大學(xué)等高校先后舉辦了“浙江鯤鵬昇騰產(chǎn)業(yè)與人才創(chuàng)新論壇”“2024昇騰CANN技術(shù)行—算子開發(fā)專場”等多場以科創(chuàng)人才為主題的線下活動。今年以來,為加速產(chǎn)教融合,中心聯(lián)合昇騰產(chǎn)業(yè)鏈資源舉辦圈層沙龍、技術(shù)賽事及專業(yè)培訓(xùn)30余場,覆蓋行業(yè)領(lǐng)袖、校企開發(fā)者千余人,培養(yǎng)認(rèn)證開發(fā)者300余人。
杭州人工智能計(jì)算中心支持承辦人工智能領(lǐng)域的技術(shù)培訓(xùn)
持續(xù)培養(yǎng)高水平創(chuàng)新型人才,助力“三支隊(duì)伍”建設(shè),是算力平臺衍生出的另一大職能,也是培育壯大新質(zhì)生產(chǎn)力的基礎(chǔ)和前提。杭州智算中心不僅為校企提供充沛算力,吸引尖端科研人才與項(xiàng)目創(chuàng)新;同時(shí)攜手多所院校開設(shè)專項(xiàng)課程,搭建‘學(xué)-練-訓(xùn)-賽’全周期人才培養(yǎng)體系,為行業(yè)輸送實(shí)戰(zhàn)型復(fù)合人才。
談到參加昇騰系列活動的收獲,杭州曠維炬銳有限公司創(chuàng)始人兼CEO王超深有感觸。自大學(xué)時(shí)代,主修異構(gòu)計(jì)算方向的他就開始關(guān)注國產(chǎn)計(jì)算,不僅連續(xù)參與了兩屆昇騰AI 創(chuàng)新大賽與相關(guān)培訓(xùn),創(chuàng)業(yè)后也與中心展開密切合作!叭绻f早兩年我們還是國產(chǎn)AI生態(tài)的貢獻(xiàn)者,為技術(shù)舔磚加瓦,”王超說道,“那么如今走向落地,前期基于國產(chǎn)化平臺的能力經(jīng)驗(yàn)則成為了我們獨(dú)特的競爭優(yōu)勢,真正帶來了價(jià)值!
“具備項(xiàng)目經(jīng)驗(yàn)的學(xué)生,在今年的擇業(yè)就業(yè)中更為搶手,”曾艷表示,中心作為橋梁,幫助項(xiàng)目學(xué)生和研究人員對接醫(yī)療、能源等行業(yè)需求,并能夠針對市場需求和痛點(diǎn)提供技術(shù)建議與經(jīng)驗(yàn)方向。
新質(zhì)生產(chǎn)力的核心在于突破性技術(shù)推動產(chǎn)業(yè)創(chuàng)新,智能算力是關(guān)鍵要素和抓手。杭州智算中心立足普惠算力平臺,持續(xù)整合產(chǎn)學(xué)研用資源,不僅有效推動人工智能大模型自主研發(fā)與前瞻性技術(shù)創(chuàng)新突破,填補(bǔ)基礎(chǔ)軟硬件空白,更為夯實(shí)高水平人才體系,構(gòu)建從基礎(chǔ)研究到成果落地的產(chǎn)業(yè)閉環(huán)貢獻(xiàn)力量,已成為區(qū)域新質(zhì)生產(chǎn)力發(fā)展的標(biāo)桿樣本。