NLP的迁移学习

我们之前在评估中有过这种技术。NLP领域的创新仍在继续，多亏了无处不在的技术，我们能够在我们的项目中利用这些创新NLP的迁移学习．GLUE基准测试(一套语言理解任务)的分数在过去几年里取得了巨大的进步，平均分数从发布时的70.0上升到2020年4月的90.0。我们在NLP领域的很多项目都能够取得重大进展，通过从ELMo的预先训练的模型开始，伯特,厄尼，然后根据项目需要对它们进行微调。

迁移学习在计算机视觉领域已经相当有效，通过重用现有模型加快了训练模型的时间。我们这些在机器学习领域工作的人很兴奋，因为同样的技术可以应用于自然语言处理(NLP)ULMFiT以及开源预训练模型和代码示例。我们认为NLP的迁移学习将大大减少创建处理文本分类系统的工作量。