Synced 深度研学社 每周干货,每周为大家推荐机器学习的入门教程、技术分析、以及资源分享。不多不少,每周进步一点点~
【入门资料】Neural Machine Translation and Sequence-to-sequence Models: A Tutorial
by Graham Neubig
简介:
这是一份介绍神经网络机器翻译模型的教程,共65页。作者默认读者有数学和编程基础,但并未假设读者懂得神经网络或者自然语言处理。教程中的介绍非常详尽,解释了对各种方法应有的直觉和一定的数学细节,并有提供的编程练习做测验。重点包括language model(主要为n-gram language model, log-linear language model, feed-forward neural language model, recurrent neural network language model ) 和sequence-to-sequence model(包括encoder-decoder, search algorithm, attention等概念)。
链接:https://arxiv.org/pdf/1703.01619.pdf
【技术分析】Sequence-to-Dependency Neural Machine Translation
by Shuangzhi Wu , Dongdong Zhang , Nan Yang , Mu Li , Ming Zhou
简介:
这篇论文的作者们来自微软亚洲研究院,他们提出了一种将语句结构纳入考虑的神经网络机器翻译模型,并表明了此方法在中英翻译和日英翻译中表现良好。语句结构包含了众多语言学信息,但目前大多机器翻译方法是通过序列直接生成语言,因此这篇论文着重于可以在翻译过程中生成目标语言的依存结构是非常有意义的。
链接: http://aclweb.org/anthology/P17-1065
【资源分享】LightNet: A Versatile, Standalone Matlab-based Environment for Deep Learning
简介:LightNet是一个matlab的深度学习框架,简单而又灵活,支持常见的深度学习模块,如MLP, CNN, RNN等。LightNet也支持CPU和GPU两种训练模式,并且切换十分方便。实验和教程中展示了在计算机视觉、自然语言处理和机器人领域的不同应用。
代码地址:https://github.com/yechengxi/LightNet