觀點網訊:據曙光雲官方公眾號消息,曙光雲發佈Token運營平臺,面向大模型應用提供模型調用與運營服務。

該平臺通過統一網關連接多種模型,圍繞"通道—分組—模型"進行分層管理,可實現多模型統一接入與Token用量計量,智能調度、監控審計等功能協同工作,幫助企業形成模型服務運營閉環。

在調度層,業務應用通過統一網關發起請求,平臺根據預設的模型映射、渠道優先級和調度規則選擇上游服務,滿足已配置的異常處理條件時可嘗試使用備用渠道或模型。

曙光雲介紹,公司已在全國運營50餘個雲計算中心,服務2000+政企客戶。