腾讯混元成功推出一款产业级2Bit端侧模型HY-1.8B-2Bit,其等效参数量仅为0.3B,内存占用低至600MB,甚至比市面上常见的手机应用还要小。该模型借助2比特量化感知训练技术打造而成,在保留原模型完整思考能力的前提下,生成速度提升了2到3倍,能够在手机、智能家居等边缘设备上轻松部署运行。
腾讯混元成功推出一款产业级2Bit端侧模型HY-1.8B-2Bit,其等效参数量仅为0.3B,内存占用低至600MB,甚至比市面上常见的手机应用还要小。该模型借助2比特量化感知训练技术打造而成,在保留原模型完整思考能力的前提下,生成速度提升了2到3倍,能够在手机、智能家居等边缘设备上轻松部署运行。