Google AI最近又掀起了瓜界旋风。这次是BERT模型刷爆了阅读理解的各项测试,一夜间大家似乎走进了NLP的"新时代"。
在11项NLP任务中,BERT模型夺得SOTA结果,在自然语言处理学界以及工业界都引起了不小的热议,瓜界也是惊呼变天了。那天晚上10点,当我带着澎湃的心情,跑上13楼求教我司实力与颜值兼具的算法大拿锋哥的时候,锋哥还神游在密密麻麻的代码世界里。过了半晌,才悠悠地回了一句,“你们啊,太不关心我们研发了。”
锋哥说BERT模型“吃下”了33亿文本的语料数据,堪称大块头,然后又在不同的下游任务中“微调”,就像骆驼穿过针眼一样,很精细,最终在不同任务中取得了目前最好的效果。
“远在天边,近在眼前,不知道我们今年就在搞这个东西吗?每天就知道在前端APP、微信上跟机器人撩来撩去,底层算法关心有木有?BERT也绝非平地惊雷,模型也是有兄弟姐妹,高矮胖瘦的好伐。”明天我给你码一篇,好好解读下BERT的来龙去脉。