生活百科

知识蒸馏（Knowledge Distillation, KD）是一种模型压缩技术，主要用于深度学习领域。

长短期记忆网络An improved Long Short-

一句话总结批量归一化（Batch Normalization，简称BatchNorm）是一种在神经网络训练过程中，将每一层的输入数据进行标准化处理的方法

人工智能的核心是让计算机具备“学习”的能力，而机器学习正是赋予这种能力的关键技术。对于大学人工智能专业的学生来说，机器学习是必须系统掌握的核心课程——它不仅是深度学习的基础

随着生成式人工智能技术的飞速发展，合成数据正日益成为大模型训练的重要组成部分。未来的 GPT 系列语言模型不可避免地将依赖于由人工数据和合成数据混合构成的大规模语料。

一文带你掌握损失函数。

近日，中国基金业协会、中国证券业协会分别向部分量化私募基金管理人、券商下发通知，要求其开展量化交易数据信息报送工作，量化私募需在11月15日前完成首期信息报送

在温度极高的情况下，蒸馏过程退化成了简单的匹配logits。

近日，斯坦福大学、微软联合发表了一篇论文，提出了一种在机器理解（MC）中使用 2-阶段合成网络（SynNet) 进行迁移学习的技术。

论文第一作者唐灵，张拳石老师课题组的博二学生。今天要聊的是个硬核技术 —— 如何给神经网络刻上抹不掉的 "身份证"。现在大模型抄袭纠纷不断，这事儿特别应景。