近日,我组论文获得ACL 2022 Best Demo Paper Award。该奖项是ACL系列会议对System Demonstration论文授予的最佳系统论文奖,每届会议评选出一篇获奖论文,由审稿人提名,领域主席根据系统贡献度、完成度以及影响力进行综合评价。过往的获奖工作包括Huggingface Transformers,Huggingface Datasets,GAIA等研究项目。以下为获奖论文介绍:
作者:丁宁*,胡声鼎*,赵威霖*,陈雨琳,刘知远,郑海涛,孙茂松(*代表共同第一作者)
摘要:提示学习(Prompt-learning)是现代自然语言处理驱动预训练语言模型的新范式,它通过插入额外的上下文和标签映射,直接将下游任务组织成模型的预训练任务(如Masked Language Model)来进行训练,在多种NLP任务上取得了很好的表现。然而,目前尚且没有一套针对提示学习的编程框架,现有的提示学习代码库往往在传统的微调范式下做出改动,只为特定场景提供有限的实现。由于提示学习是预训练任务与模型、NLP下游任务、先验知识的综合过程,在实现中往往需要考虑很多细节,如模板(Template)和标签(Verbalizer)映射生成策略等等,这些细节问题可能会给编程者带来实践障碍。在本文中,我们提出了OpenPrompt,一个统一的易于使用的提示学习编程工具包。OpenPrompt具有高效、模块化和可扩展性的特点,同时它的可组合性允许使用者在一个统一的范式中自由组合不同的预训练模型、任务形式和提示模块。用户可以方便地部署提示学习框架,并不受限制地评估它们在不同的NLP任务和模型上的通用性。OpenPrompt工具包在GitHub上已开源,目前已收到约1500颗星标,受到了业界的关注和认可。