觀點網訊:11月20日,騰訊混元宣佈Hy4正式開源,可在GitHub、HuggingFace、ModelScope和GitCode社區下載部署。
騰訊混元同時表示,混元LLM模型已全部開源,包括Hy3preview、Hy3、Hy4preview、Hy4、Hy4flash等。
背景方面,Hy4於11月4日正式發佈,採用770B總參數、49B激活參數的MoE架構,首次引入視覺理解能力與電腦操作能力。
該模型已在騰訊雲TokenHub、WorkBuddy、元寶、ima等產品上線。此前,騰訊混元於8月28日發佈並開源Hy4 preview。
金融能力方面,基於579個真實金融任務的專家眾測顯示,Hy4綜合得分3.04,位居參評開源模型第一;幻覺率從Preview版的12.95%降至7.2%。
11月18日,騰訊混元已先行開源Hy4 flash模型,開放版本包括Hy4 flash、Hy4 flash-FP8與Hy4 flash Base。
Hy4 flash總參數量224B,每個token激活12B參數,支持100萬token上下文長度,官方將其定位為Hy系列中性價比突出的模型。
