News
首个产业级2Bit量化新突破,腾讯混元推出0.3B端侧模型HY-1.8B-2Bit
腾讯混元推出产业级2Bit端侧模型HY-1.8B-2Bit,等效参数量仅0.3B,内存占用600MB,比常用手机应用更小。模型通过2比特量化感知训练实现,在保持原模型全思考能力的同时,生成速度提升2-3倍,可在手机、智能家居等边缘设备无压力部署。
腾讯混元推出产业级2Bit端侧模型HY-1.8B-2Bit,等效参数量仅0.3B,内存占用600MB,比常用手机应用更小。模型通过2比特量化感知训练实现,在保持原模型全思考能力的同时,生成速度提升2-3倍,可在手机、智能家居等边缘设备无压力部署。