Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

LSTM之父Jürgen Schmidhuber为何名声不显?

作为 LSTM 发明人、深度学习元老,Jürgen Schmidhuber 的识别度一直没有 Yann LeCun、Yoshua Bengio 等人那么高。近日,纽约时报约翰·马尔科夫 的一篇文章向我们揭示了这位人工智能领域的大牛为何名声不显。

Jürgen Schmidhuber 也许会是人工智能研究领域的 Rodney Dangerfield(一位演员、编剧)。在紧邻意大利的一个瑞士城市,我们和他见上了一面,简短的交流后我们终于理解了这位行业先驱为什么如此低调。这种情况对于演艺界的人来说,叫未获得尊重。

Synced (32).JPG

远离硅谷,在世界的另一端,欧洲的科技公司正在开发自动驾驶汽车,语音助手,甚至能预测你行为的人工智能助理。

在大多数圈子里,那些开创新技术的人会成为明星。许多人都认识 Sebastian Thrun,谷歌自动驾驶汽车的奠基人。Adam Cheyer 和 Tom Gruber 因为 Siri 语音智能助理而闻名于世。Yann LeCun,因为神经网络的先驱地位而被从纽约大学请到 Facebook,成为这家科技巨头的领军人物。

但即便是在旧金山程序员经常光顾的自动午餐馆里提起 Jürgen Schmidhuber 的名字,知道他的人也不多。

在最近一趟去苏黎世的火车上,Schmidhuber 博士,一名 53 岁的运动员,也是 Dalle Molle 人工智能研究所的副主任,他回顾了自己是如何认为早期的研究常常被忽视。「这就像其他社会的大部分,」他说。「社会偶尔超现实(postfactual)」

Schmidhuber 博士的委屈在研究圈子里是有名的,这些研究者们五年前把学术的一潭死水搅活,变成了价值数十亿美元的产业。他被指控窃取他人研究,甚至在维基百科上使用多个假名编写,来让大家认为有很多人支持他的帖子。

LeCun 博士在一封 email 中写道:

Jürgen is manically obsessed with recognition and keeps claiming credit he doesn』t deserve for many, many things. It causes him to systematically stand up at the end of every talk and claim credit for what was just presented, generally not in a justified manner.

Schmidhuber 博士用一个更大的理由反驳了对自己的批评:他不是唯一一个在人工智能研究者圈子中没有获得应有名誉的人。事实上,他说自上世纪 60 年代以来的成果总是会被今天的研究名人所忽视。虽然他坚持自己对其他的知名研究者并无恶意,但这使他一直都没什么好人缘。Schmidhuber 博士说,「我圈子里的某些研究人员装作他们好像发明了点什么东西,然而,好东西是其他人的成果,他们却从来不提。」

但是要理解他早期的研究成果为什么没有给他带来名气却不是一件容易的事情。虽然他居住的地方远离技术产业中心,但这也无法完全作为解释。

这一争端关于神经网络的根源,神经网络允许机器通过识别模式来学习,其应用很广。作为一个科学领域,神经网络的研究可以追溯到上世纪 40 年代。但是最近几年该领域的研究才有了较大进展。

几十年来,神经网络都是实验室里的「怪胎」,常常受到质疑。但是自上世纪九十年代起,随着计算机的速度越来越快也越来越廉价,以及设计神经网络的新思路的出现,它终于得到了发展。

在 1997 年,Schmidhuber 博士和 Sepp Hochreiter 发表了一篇技术论文,后来证明这篇论文对最近的视觉和语音上的快速进展起到了关键作用。这个方法被称长短期记忆,简称为 LSTM。这个方法在刚引进时没有得到广泛的理解。它主要提供了一种记忆形式,或者说是一种神经网络的环境。

就像人类不会每次都从头学起一样,神经网络的机制中存在循环和记忆的机制,每个输入的单词和观察到的像素都会被其理解。长短时记忆(LSTM)的出现让这种系统的表现得到了很大的提升,输出结果瞬间变得准确。

这可能是 Schmidhuber 的不幸——他的时代太早了,在计算机硬件性能足够处理这些算法之前。直到今天,他提出的概念才开始流行开来。

去年,谷歌的研究人员在这一方面的研究得到发表,他们使用 LSTM 减少了 49% 的语音识别错误,这是一个飞跃性进步。但是 Schmidhuber 和 Hochreiter 的研究和今天的最新进展之间还有着很大差距——这就是如今的问题所在,其他研究者会说他们在解决实际问题的过程中做出了很多贡献,这就是他们正在做的事。「他的研究是为这一领域奠定基础,」OpenCV 计算机视觉系统的创始人 Gary Bradski 说道,「但他并不是让这些技术流行起来的那个人,这有点像维京人发现了北美,但人们都只知道哥伦布的事迹。」

Schmidhuber 教授的心中有一个宏伟的人工智能未来——拥有自我意识的「意识机器」,他认为这种机器很快就能被创造出来,这是一个正被同行们广泛讨论的话题。他加入了这场大辩论中:人工智能是一个工程学概念,或是人类新时代的造神运动?

Schmidhuber 站在造神的立场上,他认为这种技术的基本概念已经存在,而且人类意识没有什么特别的。「简而言之,意识和自我认知被神化了,」他说道,他认为机械意识体会随着先进的硬件和算法出现,而整个系统的大体框架早已设计完成。

从那个爱读科幻小说的德国少年到现在的计算机科学家,博士,他对此一直深信不疑。

Schmidhuber 教授回忆说,「当我长大的时候,我一直在问自己:我能给世界带来最大的影响是什么?,所以我对建造一个比我更聪明的机器这一目的十分明确,它甚至能自己建造些更聪明的东西等等,最终它能殖民并改变整个宇宙,让自己变得智能。」

Nnaisense 的首席执行官是美国计算机科学家 Faustino Gomez,他是 Schmidhuber 教授多年的研究合作者。他不仅为自己的研究伙伴辩护说 Schmidhuber 完成过开创性的工作,同时反对人工智能已经开始动摇世界工业和经济的乐观态度。他说,「我们现在正在终结人工智能的萌发。」

理论深度学习LSTMJürgen Schmidhuber人物产业
暂无评论
暂无评论~