騰訊混元基于首個産業級2Bit端側量化方案，正式推出面向消費級硬件場景的“極小”模型HY-1.8B-2Bit。
觀點網訊：2月10日，騰訊混元基于首個産業級2Bit端側量化方案，正式推出面向消費級硬件場景的“極小”模型HY-1.8B-2Bit。
該模型等效參數量僅0.3B，内存占用僅600MB，通過對HY-1.8B-Instruct模型進行2比特量化感知訓練産出。
相較于原始精度模型，HY-1.8B-2Bit等效參數量降低6倍，在保留原模型全思考能力的同時，端側生成速度提升2—3倍，可在邊緣設備無壓力部署，是首個實現2Bit産業級量化的端側模型實踐。
免責聲明：本文内容與數據由觀點根據公開信息整理，不構成投資建議，使用前請核實。
審校：
版權聲明：觀點網絡信息科技有限公司及廣州觀點信息資訊服務有限公司擁有及保留其主辦暨承辦網站、論壇及活動的所有資料（包括但不限於文字、圖片、音頻、視頻資料及頁面設計、編排、軟件等）的所有權、版權等其他相關知識產權。除經授權合法使用上述資料外，未征得我司書面許可並付費，任何單位和個人不得以任何理由及方式使用上述資料（包括但不限於轉載、轉讓、授權他人使用等），否則我司將依法追究其法律責任以及賠償責任。
承印人：觀點網絡信息科技有限公司 (Guandian Network Information Technology Co.,Ltd.)
地址：香港灣仔菲林明道8號大同大廈15樓1505室（Room 5,15th Floor,Tai Tung Building,8 Fleming Road,Wan chai,HongKong Island,HongKong. ）
電郵：info@guandian.hk
移動端下載