華為雲Stack智算平台推三大能力 超節點集群利用率提升至70%

观点网

2026-07-24 22:28

  • 華為雲Stack智算雲平台通過雲硬協同、精細化運營、模型快速适配三大能力優化推理性能:集群整體利用率可提升至50%以上,超節點集群利用率提升至70%,TTFT降低70%,Token吞吐量提升至2倍。

    觀點網訊:華為雲Stack智算雲平台宣布通過雲硬協同、精細化運營、模型快速适配三大能力,重新定義政企AI落地的效率標尺。

    根據公開資料整理,在算力利用方面,華為雲Stack通過Serverless NPU彈性算力調度、訓推共池錯峰復用、多樣性算力融合調度等技術,集群整體利用率可提升至50%以上;今年底結合新一代升騰超節點的深度池化與彈性算力復用技術,超節點集群利用率提升至70%。

    推理側,華為OceanStor A800多級緩存架構中,KV Cache優化讓TTFT(首Token時間)降低70%,Token吞吐量提升至2倍。

    精細化運營方面,平台構建了6層全棧拓撲監控,覆蓋從硬件到應用的全鏈路,配套150+智算指標,故障定界從小時級壓到分鐘級,並支持超配縮容、閑置回收等5種算力優化場景。

    模型适配上,華為雲Stack智算雲平台已支持DeepSeek、MiniMax、Kimi、Qwen等主流模型,實現“開箱即用”。

    免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。

    審校:楊毅



    相關話題讨論



    你可能感興趣的話題

    産業科技

    科技