飛象網訊 9月21日,在華為全聯接大會2023上,華為常務董事、華為云CEO張平安宣布昇騰AI云服務已正式上線,企業(yè)一鍵接入即可獲取澎湃的AI算力,讓千行萬業(yè)實現大模型普惠。同時昇騰AI云服務“百模千態(tài)”專區(qū)亦已正式上線,支撐企業(yè)和開發(fā)者更加快速地創(chuàng)建自己的大模型應用,在大模型時代快人一步。 張平安指出,全智能時代,AI算力的需求急劇增長。但AI服務器的功率密度遠超通用服務器,單機柜功耗是過去的6-8倍,且需要專用的液冷系統(tǒng)散熱;同時大模型訓練需要百卡、千卡甚至萬卡支撐,服務器之間的互聯、時延、可靠性、運維極為復雜,自建AI數據中心面臨諸多挑戰(zhàn)。
為了更好地支撐“百模千態(tài)”,華為云在貴安、烏蘭察布、蕪湖部署三大AI算力中心,為企業(yè)提供澎湃AI算力。企業(yè)只需一鍵接入,即可隨取隨用AI云服務,不用再費時費力自建或改造傳統(tǒng)數據中心。
為保護用戶數據,華為云昇騰AI云服務采用數據傳輸加密、數據存儲加密、數據安全清除、數據訪問控制、數據水印防泄露等多重技術,保障云上訓練的數據全生命周期安全。
同時,華為云昇騰AI云服務“百模千態(tài)”專區(qū)也已經上線。除了支持盤古大模型,還將適配業(yè)界主流的上百個開源大模型,如LLAMA,GLM等。企業(yè)既可以基于盤古L0層和L1層能力,建設自己的大模型應用,也可以基于業(yè)界開源的大模型技術,打造自己的專屬大模型。
此外,華為云昇騰AI云服務還提供高效長穩(wěn)的大模型訓練環(huán)境和完備的工具鏈,實現千卡訓練連續(xù)30天不中斷,任務恢復時長小于30分鐘;并可通過30多個可視化調優(yōu)和部署工具,幫助企業(yè)更高效進行數據處理、模型微調、Prompt工程等,完成一個千億參數行業(yè)模型的端到端開發(fā),可從過去的5個月縮短到現在的1個月,整體速度提升5倍。