華為正式發布AI DC數據基礎設施全棧方案,涵蓋存儲、AI數據平台、智能體平台等。其中,面向超大規模推理集群場景,推出業界首個支持異構算力的上下文記憶存儲CMS,可擴展為PB級共享KV Cache池,降低推理首Token時延90%。
觀點網訊:5月22日,華為正式發布AI DC數據基礎設施全棧方案。
該方案涵蓋OceanStor Pacific全閃分布式存儲、上下文記憶存儲CMS、AI數據平台、華為ModelEngine Nexent智能體平台及端到端數據保護方案等多個組件。
其中,面向超大規模推理集群場景,華為推出了業界首個支持異構算力的上下文記憶存儲CMS。該技術可擴展為PB級共享KV Cache池,旨在降低推理首Token時延90%。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
審校:
