unilmUniLM:开创统一语言模型预训练新纪元在自然语言处理(NLP)领域,预训练语言模型已经成为提升下游任务性能的关键技术。然而,大多数预训练模型要么专注于语言理解,要么专注于语言生成,难以同时应对这两类任务。为了解决这一问题,微软研究院开发了UniLM(UnifiedLanguageModel