在“數(shù)智化革命”深入發(fā)展的新階段,中國(guó)移動(dòng)全面推進(jìn)“AI+”行動(dòng)計(jì)劃,浙江移動(dòng)積極響應(yīng)中國(guó)移動(dòng)集團(tuán)戰(zhàn)略部署,勇立潮頭,以創(chuàng)新之力開啟數(shù)智化轉(zhuǎn)型新征程。
近日,在中國(guó)移動(dòng)集團(tuán)信息技術(shù)中心的統(tǒng)籌與指導(dǎo)下,浙江移動(dòng)國(guó)內(nèi)首次完成CRM系統(tǒng)大模型應(yīng)用(以下簡(jiǎn)稱ChatCRM)的國(guó)產(chǎn)化算力適配。本次適配涵蓋國(guó)產(chǎn)化算力遷移的全生命周期,涉及數(shù)據(jù)準(zhǔn)備、算力分配、模型訓(xùn)練、模型推理等核心環(huán)節(jié),對(duì)后續(xù)新應(yīng)用的快速接入提供了寶貴經(jīng)驗(yàn),為國(guó)產(chǎn)化算力在未來更多場(chǎng)景的應(yīng)用奠定了堅(jiān)實(shí)基礎(chǔ)。目前,ChatCRM已累計(jì)服務(wù)6萬+人,覆蓋1.6萬項(xiàng)業(yè)務(wù)知識(shí),業(yè)務(wù)問答準(zhǔn)確率超過95%,云電腦等重點(diǎn)業(yè)務(wù)辦理時(shí)長(zhǎng)從3分鐘縮短至1分鐘內(nèi),有效提升了一線生產(chǎn)經(jīng)營(yíng)效率,助力業(yè)務(wù)高質(zhì)量發(fā)展。
浙江移動(dòng)于2024年6月完成智算底座對(duì)國(guó)產(chǎn)化智算卡的適配,并實(shí)現(xiàn)了常用訓(xùn)練、推理框架在國(guó)產(chǎn)智算生態(tài)的兼容適配。完成了LLaMA-Factory、vLLM等主流的開源訓(xùn)練和推理框架在國(guó)產(chǎn)智算卡的適配,同時(shí)率先實(shí)現(xiàn)在國(guó)產(chǎn)算力卡的投產(chǎn),助力業(yè)務(wù)零成本切換到國(guó)產(chǎn)化算力,降低了模型開發(fā)人員的學(xué)習(xí)成本和業(yè)務(wù)改造成本。
從6B參數(shù)模型升級(jí)為72B參數(shù)模型后,ChatCRM在業(yè)務(wù)理解和響應(yīng)復(fù)雜提問時(shí)精準(zhǔn)高效,業(yè)務(wù)問答準(zhǔn)確率保持95%以上,且升級(jí)后模型知識(shí)總結(jié)能力更加強(qiáng)大,回復(fù)內(nèi)容也更為豐富。
依托端到端智算國(guó)產(chǎn)化信創(chuàng)基礎(chǔ)設(shè)施,除了“ChatCRM”外,浙江移動(dòng)還創(chuàng)新構(gòu)建了多個(gè)生產(chǎn)經(jīng)營(yíng)AI應(yīng)用,如““智曉”、“營(yíng)盤”、“谷雨”、“chatOA”、“chatBI”等,以賦能內(nèi)部生產(chǎn)經(jīng)營(yíng)管理場(chǎng)景數(shù)智化升級(jí)。
未來,浙江移動(dòng)將持續(xù)積極響應(yīng)中國(guó)移動(dòng)集團(tuán)公司AI+戰(zhàn)略部署要求,不斷深化國(guó)產(chǎn)化算力適配工作,加強(qiáng)“AI+”應(yīng)用自主可控,并以“基線+定制”的集約化模式加快大模型數(shù)智應(yīng)用全網(wǎng)推廣,為推進(jìn)中國(guó)移動(dòng)集團(tuán)數(shù)智化轉(zhuǎn)型、實(shí)現(xiàn)高質(zhì)量發(fā)展貢獻(xiàn)更多力量。