近日，全球首個(gè)商用智算昇騰超節(jié)點(diǎn)在中國(guó)電信粵港澳大灣區(qū)（韶關(guān)）算力集群正式商用發(fā)布，標(biāo)志著新一代智能算力注入粵港澳大灣區(qū)國(guó)家級(jí)算力樞紐節(jié)點(diǎn)，中國(guó)電信在AI算力基礎(chǔ)設(shè)施領(lǐng)域取得重大進(jìn)展，為人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入新動(dòng)能。廣東省委常委、副省長(zhǎng)張國(guó)智，中國(guó)電信董事長(zhǎng)柯瑞文，廣東韶關(guān)市委書記陳少榮，華為公司董事陶景文出席活動(dòng)并致辭。
目前，大模型的Scaling Law仍然有效，國(guó)內(nèi)外主流基礎(chǔ)大模型參數(shù)量持續(xù)增長(zhǎng)，算力需求不斷增加；大模型從稠密架構(gòu)向混合專家模型稀疏架構(gòu)演進(jìn)。基于以上特點(diǎn)，業(yè)界主流智算服務(wù)器在提升單卡算力的同時(shí)，正在從單節(jié)點(diǎn)向超節(jié)點(diǎn)架構(gòu)演進(jìn)。智算昇騰超節(jié)點(diǎn)采用新型高速總線架構(gòu)，天然適配混合專家模型稀疏架構(gòu)，使大模型訓(xùn)練效率和推理性能大幅提升。
中國(guó)電信此前在京津冀、長(zhǎng)三角建成的國(guó)內(nèi)首批全液冷萬(wàn)卡池，保障了智能算力的供給量。在粵港澳大灣區(qū)樞紐節(jié)點(diǎn)建設(shè)全球首個(gè)超節(jié)點(diǎn)形態(tài)集群，標(biāo)志著中國(guó)電信智能算力供給實(shí)現(xiàn)質(zhì)與量的雙重跨越。
智算昇騰超節(jié)點(diǎn)憑借四大核心優(yōu)勢(shì)，引領(lǐng)智算新潮流。一是通過架構(gòu)升級(jí)和軟件優(yōu)化，大幅提升訓(xùn)練和推理性能。相比910B，NPU（神經(jīng)網(wǎng)絡(luò)處理器）間高速互聯(lián)帶寬提升14倍，模型切分并行域提升48倍，訓(xùn)練場(chǎng)景效率提升2.7倍，推理場(chǎng)景單卡吞吐提升20倍以上。二是云網(wǎng)融合帶來(lái)運(yùn)力優(yōu)勢(shì)。中國(guó)電信提供超低時(shí)延、超高安全、超快傳輸?shù)倪\(yùn)力保障，通過全光400G運(yùn)力網(wǎng)絡(luò)打造華南地區(qū)10毫秒、廣東地區(qū)5毫秒、大灣區(qū)3毫秒的超低時(shí)延運(yùn)力底座，實(shí)現(xiàn)智能算力的高速互聯(lián)。通過量子技術(shù)保障數(shù)據(jù)安全傳輸。利用超算快線打造高達(dá)百G的敏捷彈性、任務(wù)式服務(wù)的算力傳輸能力。三是“息壤”一體化智算服務(wù)平臺(tái)提供能力優(yōu)勢(shì)。中國(guó)電信將智算昇騰超節(jié)點(diǎn)納入全國(guó)算力體系，為全國(guó)提供服務(wù)，同時(shí)結(jié)合大灣區(qū)通算、智算、超算層次化布局，面向用戶提供訓(xùn)推一體、云智一體、超智一體能力，服務(wù)千行百業(yè)。四是具有彈性、綠色、智慧的特征。作為粵港澳大灣區(qū)首個(gè)大規(guī)模全液冷智能算力數(shù)據(jù)中心，中國(guó)電信全面應(yīng)用綠色低碳技術(shù)，100％使用綠電，PUE小于1.15，采用數(shù)字孿生、AI等先進(jìn)技術(shù)，打造全程數(shù)字化智慧運(yùn)營(yíng)管理能力，構(gòu)建智慧的AIDC。
