觀點網訊:11月21日,騰訊首席AI科學家、混元大模型負責人姚順雨和混元團隊的研究員在Reddit上進行了一場AMA(公開問答),披露了小尺寸AI模型及下一代模型的規劃。

談及字節跳動和Kimi等公司正在推進超大規模模型,參數量達到3T,甚至5T,而騰訊混元仍停在700B的原因,混元團隊回應稱,Hy3和Hy4已經表明,做得紮實的較小模型,往往可以勝過更大的模型,而且成本更低。

混元團隊表示,Hy4仍有很大的改進空間,尤其是通過後訓練。團隊稱,正投入大量精力進行大規模強化學習,同時繼續改善用戶體驗和模型安全,並計劃訓練更大規模的模型。

此外,混元團隊在問答中透露,Hy4-mini已經在路線圖上,並會考慮做一個更小的圖像模型,視頻模型也敬請關注。