5月21日，在騰訊云AI產(chǎn)業(yè)應用峰會上，騰訊云副總裁李力宣布了騰訊云智算的全新升級。新升級瞄準AI應用和模型爆發(fā)對基礎設施帶的來全新挑戰(zhàn)，在效能、可靠性、易用性三大方向上全面提升，將為AI大模型訓練、智能體部署等場景提供更全面的基礎設施能力支持。
李力表示，從云計算時代到AI時代，云基礎設施的技術(shù)進化始終以場景作為牽引。隨著大模型的爆發(fā)以及智能體、智駕等應用場景加速落地，騰訊云智算會以AI原生為出發(fā)點，打造安全靈活的高性能底座，與開發(fā)者和企業(yè)共同探索智能化轉(zhuǎn)型的創(chuàng)新路徑。
在效能維度，騰訊云智算針對數(shù)據(jù)處理效率低、資源利用率低等痛點問題，升級了多個技術(shù)能力。基于國內(nèi)首個支持跨卡型GPU調(diào)度的Serverless平臺，騰訊云智算最高可支持10萬級并發(fā)數(shù)據(jù)任務處理，最高請求數(shù)能達到行業(yè)領先的百萬量級；通過騰訊云存儲數(shù)據(jù)萬象中預置的100多個數(shù)據(jù)處理任務模板，幫助企業(yè)數(shù)據(jù)打標效率提升50%。
在大模型訓練和推理場景中，騰訊云智算基于星脈自研通訊庫，雙端口網(wǎng)卡帶寬利用率達到峰值相比DeepEP性能可以再提升30%；同時，騰訊云智算打造了更高性價比的多機互聯(lián)網(wǎng)絡vRDMA，并將損耗比降低至不到2%，模型訓練效率接近無損擴展。
某頭部車企在智駕模型的訓練中，數(shù)據(jù)標注效率提升了50%，數(shù)據(jù)處理整體成本降低70%，訓練性能提升30%，模型迭代周期降低了40%。
在可靠性維度，針對AI基礎設施容易出現(xiàn)的服務不穩(wěn)定、擴容速度慢、 訪問速度慢等技術(shù)難點，騰訊云智算通過自研AI服務器與智能巡檢系統(tǒng)，將千卡集群的日均故障率控制在0.16%以下；依托騰訊云存儲GooseFS，模型分發(fā)時間從1小時縮短到了20分鐘；同時，騰訊云全球50多個可用區(qū)，則可使AI應用服務就近接入，服務穩(wěn)定性提升57%，擴容速度提升2倍。
某頭部手機廠商的AI助手項目應用該方案后，服務網(wǎng)絡丟包和抖動均下降99%，服務穩(wěn)定性提升57%，同時實現(xiàn)200%的擴容速度提升。
在易用性維度，為加速智能體規(guī)模化落地，騰訊云智算升級了AI原生工具鏈。其中，向量數(shù)據(jù)庫全面支持向量+關(guān)鍵字混合檢索，最高支持千億級數(shù)據(jù)處理與500萬QPS高并發(fā)檢索；騰訊云智能日志服務可支持統(tǒng)一日志上報與可觀測大盤，支持完整鏈路追蹤與異常3分鐘定位；騰訊云智算還升級了覆蓋大模型全生命周期的安全解決方案，實現(xiàn)安全事件兩小時內(nèi)快速響應。
某頭部房產(chǎn)中介平臺搜索業(yè)務，借助騰訊云向量數(shù)據(jù)庫，數(shù)據(jù)召回率增加30%，檢索時間降低50%，同時依靠日志和安全能力，異常定位效率提升30%，安全響應時間縮短90%。
目前，騰訊云智算已深度服務于智能體及AI應用、具身智能、自動駕駛、互聯(lián)網(wǎng)應用等多個領域。在Gartner最新發(fā)布的生成式AI基礎設施象限中，其產(chǎn)品性能與未來潛力均位列亞太廠商首位。
值得一提的是，騰訊云針對DeepSeek開源的DeepEP通信框架進行深度優(yōu)化，使其在多種網(wǎng)絡環(huán)境下均實現(xiàn)顯著性能提升。相關(guān)技術(shù)方案也獲得了DeepSeek公開致謝，稱這是一次“huge speedup”代碼貢獻。
