觀點網訊：近日，據中科曙光消息，中科曙光分佈式存儲ParaStor成為業界首家接入Mooncake社區的商用分佈式存儲，首次完成商用分佈式存儲後端的生產環境落地，並輸出完整可複製的商業化落地方案。目前，相關技術能力已全部合入Mooncake社區主幹。

Mooncake是業界主流開源大模型分佈式KV Cache緩存平臺，此前已提供內存池化、本地SSD卸載兩種方案。大模型推理過程中會產生大量中間數據KV Cache，高效保存並複用這些數據可減少重複計算，降低算力消耗和AI運行成本，Agent、高併發對話、代碼生成等場景尤甚。

相較內存方案成本高、本地SSD方案受單機容量、故障和擴容限制，外置分佈式存儲具備大容量、彈性擴展和資源池化等優勢，可與AI訓推業務共用一套存儲基礎設施，壓縮企業IT投入。

Mooncake雖可提供外置存儲接入能力，但要真正用於生產環境，仍需解決容量彈性擴展、數據恢復、批量讀寫性能、異常場景下的穩定運行等關鍵問題。

中科曙光ParaStor分佈式存儲研發團隊對Mooncake DFS的存儲分配邏輯進行模塊化改造，並圍繞標準化接入、動態擴容和IO鏈路持續優化。由此，商用分佈式存儲首次進入大模型推理核心業務鏈路，承接長尾KV Cache卸載工作。

實測方面，曙光聯合SGLang，基於國產加速卡與ParaStor F9000搭建端到端實測環境，模擬真實大模型業務負載。

實測數據顯示，在64K上下文、單卡7併發下，KV Cache卸載實現16倍吞吐提升，達到DRAM池吞吐值的80%；平均首Token延遲和P90首Token延遲均保持在10s以內。