NLP的迁移学习

我们以前在评估中使用过这种技术。NLP领域的创新正在以极快的速度继续着，由于其无处不在，我们能够在我们的项目中利用这些创新NLP的迁移学习．GLUE基准测试(一套语言理解任务)的得分在过去几年里取得了巨大的进步，平均得分从发布时的70.0，到2020年4月，一些领先的测试者的得分超过了90.0。我们在NLP领域的很多项目都能从ELMo的预训练模型开始，取得重大进展，伯特,厄尼，然后根据项目需求对它们进行微调。

迁移学习在计算机视觉领域已经相当有效，它通过重用现有模型来加快训练模型的时间。我们这些在机器学习领域工作的人都很兴奋，随着自然语言处理(NLP)的出版，同样的技术也可以应用于自然语言处理(NLP)ULMFiT以及开放源码的预训练模型和代码示例。我们认为NLP的迁移学习将大大减少创建处理文本分类的系统的工作量。