9月21日，在華為全聯(lián)接大會(huì)2023現(xiàn)場(chǎng)，華為常務(wù)董事、華為云CEO張平安以“共建智能世界云底座，讓AI重塑千行萬業(yè)”為題發(fā)表主旨演講。張平安宣布，華為云昇騰AI云服務(wù)正式上線，所有企業(yè)可即刻在華為云官網(wǎng)上購買和使用。
全智能時(shí)代，AI算力需求講迎來爆發(fā)式增長(zhǎng)。華為預(yù)計(jì)，到2030年通用計(jì)算能力將增長(zhǎng)10倍，AI計(jì)算能力將增長(zhǎng)500倍。然而，由于AI服務(wù)器的功率密度遠(yuǎn)超通用服務(wù)器，單機(jī)柜功耗是傳統(tǒng)機(jī)柜的6至8倍，并需專用液冷系統(tǒng)散熱，且大模型訓(xùn)練需要百卡、千卡甚至萬卡，服務(wù)器之間的互聯(lián)、時(shí)延、可靠性、運(yùn)維極為復(fù)雜，自建AI數(shù)據(jù)中心面臨諸多挑戰(zhàn)。
為更好地支持大模型的“百模千態(tài)”創(chuàng)新，華為云在貴安、烏蘭察布、蕪湖打造了3大AI云算力中心，為企業(yè)提供澎湃昇騰AI算力，讓企業(yè)再也不需要高價(jià)搶購GPU，也不需要擔(dān)心GPU未來潛在的供應(yīng)連續(xù)性挑戰(zhàn)。
同時(shí)，華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)已正式上線，讓企業(yè)和開發(fā)者可以快速創(chuàng)建自己的大模型應(yīng)用，在大模型時(shí)代快人一步。
華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)收錄了業(yè)界主流開源大模型，如LLAMA，GLM等，并全面基于昇騰AI云服務(wù)進(jìn)行適配和優(yōu)化，精度和性能顯著提升。同時(shí)，專區(qū)提供豐富的應(yīng)用開發(fā)的工具鏈，開發(fā)工具已經(jīng)全部實(shí)現(xiàn)了云化，免去繁瑣的配置流程，實(shí)現(xiàn)一鍵接入，即開即用。
在云上，華為云提供了高效長(zhǎng)穩(wěn)的大模型訓(xùn)練環(huán)境和完備的工具鏈：實(shí)現(xiàn)千卡訓(xùn)練連續(xù)30天不中斷，任務(wù)恢復(fù)時(shí)長(zhǎng)小于30分鐘；通過30多個(gè)可視化調(diào)優(yōu)和部署工具，幫助企業(yè)更高效進(jìn)行數(shù)據(jù)處理、模型微調(diào)、Prompt工程等，完成一個(gè)千億參數(shù)的行業(yè)模型端到端開發(fā)，從過去需要5個(gè)月縮短到現(xiàn)在1個(gè)月，整體速度提升5倍。
昇騰AI云服務(wù)百模千態(tài)專區(qū)
此外，專區(qū)還提供了豐富的使用指導(dǎo)，企業(yè)和個(gè)人開發(fā)者只需要登錄專區(qū)，自助申請(qǐng)?bào)w驗(yàn)。審核通過后，即可通過點(diǎn)擊相應(yīng)的開源大模型進(jìn)入控制臺(tái)進(jìn)行部署，并發(fā)布成在線服務(wù)進(jìn)行推理調(diào)用。
在大模型訓(xùn)練數(shù)據(jù)安全方面，華為云采用了數(shù)據(jù)傳輸與存儲(chǔ)加密、數(shù)據(jù)安全清除、數(shù)據(jù)訪問控制、數(shù)據(jù)水印防泄露等多重技術(shù)，確保大模型訓(xùn)練數(shù)據(jù)的全生命周期安全。
