觀點網訊:10月15日,據階躍消息,階躍正式釋放Step5 Preview權重。本次開放內容包括BF16與FP8模型權重、技術博客以及配套開源開發工具。
據介紹,Step5 Preview面向長程Agent任務而設計,採用稀疏MoE架構,總參數量600B、每token激活參數僅27B,支持100萬token上下文窗口,原生支持文本與視覺輸入,在AI編程、軟件工程、專業知識工作和金融等場景表現突出。
目前,模型權重已上線Hugging Face和ModelScope,並提供面向多種芯片平臺和推理框架的適配支持。開發者可以通過vLLM或SGLang部署兼容OpenAI接口的API服務,也可以使用Transformers進行離線推理。
同步公開的技術博客介紹了Step5 Preview通過架構與訓練的協同優化支持更長、更復雜的Agent任務,關鍵設計包括92層窄深架構、Sparse GQA、更穩定的訓練。其中,8 token塊級索引可將索引與top-k選擇開銷降至原來的1/8。
據階躍消息,近期Step5 Preview在OpenRouter周調用量、日調用量榜單中均位居全球第二。
