微调与蒸馏与迁移学习：它们之间有何区别？
随着Deepseek-R1及其蒸馏模型的发布，许多机器学习工程师都在思考：蒸馏和微调之间有什么区别？
排序
为什么匹配logits是模型蒸馏的一个特例？
在温度极高的情况下，蒸馏过程退化成了简单的匹配logits。
【KDD2022】基于对抗性知识蒸馏的深度图神经网络压缩
知识蒸馏深度图神经网络(Deep graph neural networks, GNNs)能够很好地表达图结构数据的