OpenAI 宣布大规模无监督语言模型GPT-2
机器之心获悉,OpenAI今日发表最新博客,表示其研究团队已训练出了一个大规模的无监督语言模型,它可以生成连贯的文本段落,在许多语言建模基准上实现最先进的表现,并执行基本的阅读理解,机器翻译,问答和总结 - 所有这些都没有针对特定任务的培训。
该模型称为GPT-2(GPT的继承者),仅用于预测40GB互联网文本中的下一个单词。 由于我们担心该技术的恶意应用,我们不会发布经过培训的模型。 作为负责任披露的实验,我们正在发布一个更小的模型供研究人员进行实验,以及技术论文。