該模型是業界首個在五萬卡國産算力集群上完成全流程訓練與推理的萬億參數模型,總參數達1.6萬億,原生支持1M超長上下文。
觀點網訊:7月6日,美團正式宣布開源新一代萬億參數大模型LongCat-2.0。
該模型是業界首個在五萬卡國産算力集群上完成全流程訓練與推理的萬億參數模型,總參數達1.6萬億,原生支持1M超長上下文。
據介紹,LongCat-2.0采用MoE架構,每個token激活約480億參數,預訓練數據規模超過35萬億tokens,並引入LongCat稀疏注意力機制以支持長程任務。
在近日的股東大會上,美團創始人王興強調,AI轉型是“必答題”而非“可選題”,所有公司都要面對産品和工作流程中應用AI。
他同時表示,美團在AI投入上将依據現金流狀況,不會超出财務能力盲目投入。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
審校:
