邱躍鵬還透露，在推理加速方面，騰訊雲向DeepSeek、vLLM、SGLang等開源社區提交多項優化技術，並自研開源FlexKV多級緩存技術，顯著降低KVCache占用，使首字時延最多下降70%。
觀點網訊：9月16日，據騰訊集團副總裁、騰訊雲總裁邱躍鵬透露，目前，騰訊雲已在推理加速、AgentInfra和國際化布局等方面取得突破，騰訊雲正不斷升級雲基礎設施，以支撐Agent規模化落地和企業全球化發展。
邱躍鵬還透露，在推理加速方面，騰訊雲向DeepSeek、vLLM、SGLang等開源社區提交多項優化技術，並自研開源FlexKV多級緩存技術，顯著降低KVCache占用，使首字時延最多下降70%。針對Agent大規模應用，騰訊雲推出AgentRuntime解決方案，集成執行引擎、雲沙箱和安全可觀測等五大能力，提供穩定運行環境。其中，雲沙箱基于自研技術，啟動時間僅100毫秒，可支持數十萬實例並發。
免責聲明：本文内容與數據由觀點根據公開信息整理，不構成投資建議，使用前請核實。
審校：
版權聲明：觀點網絡信息科技有限公司及廣州觀點信息資訊服務有限公司擁有及保留其主辦暨承辦網站、論壇及活動的所有資料（包括但不限於文字、圖片、音頻、視頻資料及頁面設計、編排、軟件等）的所有權、版權等其他相關知識產權。除經授權合法使用上述資料外，未征得我司書面許可並付費，任何單位和個人不得以任何理由及方式使用上述資料（包括但不限於轉載、轉讓、授權他人使用等），否則我司將依法追究其法律責任以及賠償責任。
承印人：觀點網絡信息科技有限公司 (Guandian Network Information Technology Co.,Ltd.)
地址：香港灣仔菲林明道8號大同大廈15樓1505室（Room 5,15th Floor,Tai Tung Building,8 Fleming Road,Wan chai,HongKong Island,HongKong. ）
電郵：info@guandian.hk
移動端下載