2026年9月30日中午，致远学院第317期ZY-INS沙龙在致远学院（光彪楼）一楼报告厅举办。本期沙龙以“从现象理解深度学习”为主题，特邀上海交通大学自然科学研究院、数学科学学院教授，Journal of Machine Learning创刊执行编辑许志钦担任主讲嘉宾。

从图像识别到大语言模型，深度学习正在深刻改变人们的生产与生活。然而，神经网络为何能够有效学习？看似神秘的“黑箱”中究竟发生了什么？深度学习的基础研究是重要的研究方向，其中一类重要的研究方法是现象驱动，即通过对重要现象的发现和挖掘，使基础研究更好地服务于神经网络的理解和使用。本期报告正是沿着这一思路，从最简单的感知机的学习，一路讲到大模型的记忆和推理。

报告中，许教授首先介绍了其与合作者提出的“频率原则”：神经网络在训练过程中往往先拟合目标函数的低频成分，再逐步捕捉高频细节，好比作画时先勾勒轮廓、再描摹细节。这一现象为理解神经网络为何在许多实际问题中具有良好的泛化能力提供了直观解释，也为改进网络的设计与训练带来了启发。

在参数层面，许教授进一步介绍了“凝聚现象”：在一定条件下（例如参数初始化尺度较小时），许多神经元的输入权重会在训练中趋于相同的方向。这些“步调一致”的神经元对输入的处理方式几乎相同，使得一个参数众多的大网络在效果上等价于一个小网络。这一发现揭示了神经网络训练中隐含的“简单偏好”，为理解参数量远超数据量的网络为何仍能良好泛化提供了新的视角。

报告后半程，许教授将视角延伸至大语言模型，结合团队近期的研究，探讨了大模型何时倾向于“记忆”、何时真正学会“推理”，以及更复杂的推理能力如何在训练中逐步涌现。从感知机到大模型，“现象驱动”的主线贯穿始终，让同学们看到：看似神秘的“黑箱”背后，同样隐藏着可以观察、可以刻画、更可以被理解的规律。

整场报告中，许教授语言风趣幽默，讲解深入浅出，将抽象的理论问题讲得生动易懂，现场气氛轻松而活跃。报告相关内容亦可参阅许教授与张耀宇老师合著、于今年2月出版的《深度学习现象导论：从感知机到大模型》一书。

在互动交流环节，同学们热情高涨、踊跃提问，围绕频率原则对网络训练的启发、现象研究与严格理论之间的关系、大模型推理能力的来源与边界等问题与许教授深入交流。许教授逐一耐心解答，并结合自己从致远学院走上科研道路的经历，鼓励同学们保持好奇心，在夯实数学基础的同时，善于从现象中发现和提出有价值的问题。

本期沙龙围绕“从现象理解深度学习”这一主题，系统展现了深度学习基础研究中“现象驱动”的研究思路，也让同学们领略了基础理论研究的独特魅力，进一步激发了大家探索人工智能基础问题的兴趣。作为致远学院持续打造的高水平学术交流平台，ZY-INS沙龙将继续汇聚前沿领域专家，为同学们带来更加丰富而深入的学术交流体验。