大模型压缩技术全景解析：从理论到边缘部署实战
手机装不下大模型？别急着换机，先把模型“瘦身”再说。 剪枝、量化、蒸馏，听起来像实验室里的黑话，其实就是给AI减肥的三板斧。 先剪枝：把模型里那些几乎不工作的连接咔嚓掉
排序
清华、哈工大提出OneBit方法：可把大模型压缩到1bit 保持 83% 性能
划重点: 清华大学和哈尔滨工业大学联合发布论文，将大模型压缩到1bit，保持83% 性能; OneBit 方法首次尝试1bit 量化