论文修改100遍也别慌！Meta发布全新写作语言模型PEER：参考文献都会加(6)

在实验对比阶段，PEER使用LM-Adapted T5的3B参数版本预训练初始化。

为了评估了PEER在不同领域中遵循一系列计划、利用所提供的文档和进行编辑的能力，特别是在没有编辑历史的领域中的表现，文中引入了一个 新的数据集Natural Edits ，一个针对不同文本类型和领域的自然发生的编辑的集合。

数据从三个英文网络资源中收集获得：从维基百科中收集百科全书式的页面，从Wikinews收集新闻文章，从StackExchange的烹饪、园艺、法律、电影、政治、旅游和工作场所子论坛收集问题，所有这些网站都提供了带有评论的编辑历史，这些评论详细说明了编辑的意图，并将其作为计划提供给模型。

在Wikinews和StackExchange子集的训练中，只提供纯文本数据，而非实际的编辑，从而测试在没有编辑历史的领域的编辑能力。

实验结果可以看出PEER的表现在一定程度上超过了所有的基线，并且计划和文档提供了模型能够使用的互补信息

在Natural Edits的所有子集上评估PEER后可以发现，计划对各领域都有很大的帮助，这表明理解维基百科编辑中的计划的能力可以直接转移到其他领域。重要的是，在Natural Edits的所有子集上，PEER的领域适应性变体明显优于常规的PEER，尤其是在园艺、政治和电影子集上有很大的改进（分别为84%、71%和48%的EM-Diff），也显示了在不同领域中应用PEER时，生成合成编辑的有效性。

点击查看，关注AI前沿技术分享>>