ICLR 2019最佳论文出炉:微软、MILA、MIT获奖
5 月 6 日消息,深度学习顶会 ICLR 2019 的两篇最佳论文现已放出。来自微软研究院、蒙特利尔大学 MILA 研究所的论文《Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks》和来自 MIT CSAIL 研究者的论文《The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks》夺得本届大会的最佳论文奖项。其中来自微软研究院、MILA 的论文探讨自然语言处理问题,提出利用神经元排序将对自然语言层级结构的考虑纳入网络。另一篇来自 MIT CSAIL 的论文探讨了模型压缩问题,提出了一个新的概念——彩票假设:密集、随机初始化的前馈网络包含子网络(「中奖彩票」),当独立训练时,这些子网络能够在相似的迭代次数内达到与原始网络相当的测试准确率。