谷歌研究团队预测深度神经网络中的泛化间隙
谷歌今日在博客中分享了其今年被人工智能能顶会 ICLR 2019 收录的论文《Predicting the Generalization Gap in Deep Networks with Margin Distributions》中的研究成果。论文中,研究人员们提出了在网络层上使用归一化边际分布作为泛化间隙的预测器这一想法。除此以外,他们还实证研究了边际分布与泛化之间的关系,并表明在对距离进行适当的归一化后,边际分布的一些基本统计可以准确地预测边界分布。研究人员还提供了所有用作数据集的模型,用于通过 Github 存储库研究泛化。GitHub 链接:bit.ly/2L7R7n4