觀點網訊:10月13日,面壁智能發佈新一代端側多模態大模型MiniCPM-V 4.7,包含35B-A3B與1B兩個版本。
其中35B-A3B採用MoE架構,總參數350億、每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s(iPadPro實測)。
該模型目前已支持瑞芯微、NVIDIA、Intel和Apple等國內外主流芯片平臺,同時支持iOS、安卓和鴻蒙系統。
面壁智能同時提供開源端側適配代碼及主流推理框架。
面壁智能10月13日發佈新一代端側多模態大模型MiniCPM-V 4.7,含35B-A3B與1B兩個版本。35B-A3B採用MoE架構,總參數350億、每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s。
觀點網訊:10月13日,面壁智能發佈新一代端側多模態大模型MiniCPM-V 4.7,包含35B-A3B與1B兩個版本。
其中35B-A3B採用MoE架構,總參數350億、每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s(iPadPro實測)。
該模型目前已支持瑞芯微、NVIDIA、Intel和Apple等國內外主流芯片平臺,同時支持iOS、安卓和鴻蒙系統。
面壁智能同時提供開源端側適配代碼及主流推理框架。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。