一般而言,深度神经网络以端到端的形式训练。尽管端到端训练在大量任务中都稳定地表现出了良好的效果,但由于其极大的显存开销和难以并行化,执行的效率有待提升。为了解决或缓解上述两点低效的问题,一个可能的方案是使用局部监督学习,即将网络拆分为若干个局部模块(local module),并在每个模块的末端添加一个局部损失,利用这些局部损失产生监督信号分别训练各个局部模块。本期我们邀请到王语霖同学,分享他在局部监督训练方向的研究。