遇见数据集

Parallel Meaning Bank (PMB)

收藏
arXiv2024-05-08 更新2024-06-21 收录
数据链接:
官方服务:

资源简介:

Parallel Meaning Bank (PMB) 是一个多语言的语义处理语料库,专注于语义解析和文本生成。PMB包含大量平行文本,每条文本都附有基于变体Discourse Representation Theory (DRT) 的正式意义表示,称为Discourse Representation Structure (DRS)。该数据集适用于基于语料库的正式语义现象研究,或开发和评估语义处理任务,如文本到意义的解析和意义到文本的生成。PMB已被广泛用于语义解析、自然语言生成和语义标记等领域,旨在解决语义处理中的复杂问题,特别是在处理复杂正式意义表示方面的挑战。

The Parallel Meaning Bank (PMB) is a multilingual semantic processing corpus dedicated to semantic parsing and text generation. PMB comprises a substantial collection of parallel texts, each accompanied by formal meaning representations based on the revised Discourse Representation Theory (DRT), termed Discourse Representation Structure (DRS). This corpus is applicable to corpus-based research on formal semantic phenomena, as well as the development and evaluation of semantic processing tasks including text-to-meaning parsing and meaning-to-text generation. PMB has been extensively utilized in fields such as semantic parsing, natural language generation, and semantic tagging, with the goal of addressing complex issues in semantic processing, particularly the challenges posed by handling complex formal meaning representations.

创建时间:
2024-04-12
搜集汇总
数据集介绍
构建方式
Parallel Meaning Bank (PMB) 是一个基于话语表示理论(DRT)的多语言语义标注平行语料库。其构建采用七层流水线处理原始文本,涵盖分词、词义消歧、共指消解、语义角色标注及句法分析等步骤,最终通过组合范畴语法(CCG)推导树生成话语表示结构(DRS)。为提升评估可靠性,研究团队摒弃了原有随机划分,提出系统性两轮排序分割策略:先按字符长度排序文档,再基于编辑距离重组,确保训练集与测试集间词汇重叠最小化。此外,针对模型局限,构建了两个挑战集——长文本集(手动修正平均61词的多句文档)和组合泛化集(通过CCG树的替换与扩展操作自动生成语义合理的新句子)。
特点
PMB 数据集的核心特点在于其形式化语义表示的完备性与多语言覆盖。DRS 不仅涵盖逻辑否定、量化和话语关系,还通过WordNet义原实现完整的词义消歧,并提供跨语言中立的意义表征。数据集支持多种表示格式(如盒式、子句式、序列盒式及图式),便于不同模型适配。新版PMB 5.0.0 引入系统性划分,显著降低了训练与测试集间的数据泄漏风险。挑战集则聚焦于长文本理解与组合泛化能力,前者平均句子长度达61词(为标准集的十倍),后者通过CCG重组生成结构新颖的句子,精准暴露神经模型在复杂语义场景下的性能瓶颈。
使用方法
PMB 适用于文本到语义解析(Text-to-DRS Parsing)与意义到文本生成(Meaning-to-Text Generation)两大任务。研究者可基于论文提供的系统性划分版本(英语8:1:1,其他语言4:3:3)训练模型,推荐使用基于Transformer的预训练模型(如DRS-MLM、byT5)进行微调。评估解析任务时,需将生成的DRS转换为Penman符号后,采用SMATCH指标计算三元组重叠率;生成任务则采用BLEU、METEOR及COMET等自动评测指标。挑战集的使用应聚焦于长文本(138条样本)和组合替换/扩展子集(共1148条样本),以检验模型在长度泛化与结构泛化上的鲁棒性。
背景与挑战
背景概述
Parallel Meaning Bank (PMB) 是由荷兰格罗宁根大学语言与认知中心的研究团队于2017年创建的多语种语义标注语料库,核心成员包括Lasha Abzianidze、Johan Bos等人。该数据集基于话语表征理论,以话语表征结构(DRS)为形式化语义表示框架,涵盖英语、德语、荷兰语和意大利语等多种语言,旨在支持语义解析与文本生成等自然语言处理任务。PMB通过七层渐进式标注流程(从分词到语义标注)构建高质量语义资源,其独特的组合范畴语法推导树为语义组合性研究提供了坚实基础。作为语义计算领域的标杆数据集,PMB已广泛应用于话语解析、语义标注及跨语言语义研究,推动了形式语义学与神经网络的交叉探索。
当前挑战
PMB面临的核心挑战在于现有评价体系难以真实反映模型能力。首先,原始随机数据划分导致训练集与测试集间存在数据泄漏,使得模型性能被高估,且测试集大量包含平均长度不足十词的短句,缺乏对长文本语义理解能力的评估。其次,构建过程中人工标注长文本的成本高昂,导致黄金标准数据集中于短句,难以覆盖话语结构、省略等复杂语义现象。此外,神经模型在组合泛化任务中表现脆弱,当通过CCG树重组引入新颖句法结构时,模型性能显著下降,暴露出其在面对未见组合模式时的局限性。这些挑战共同揭示了语义解析与文本生成任务远未解决的现实困境。
常用场景
经典使用场景
Parallel Meaning Bank (PMB) 作为一部多语种语义标注平行语料库,其最经典的使用场景在于语义解析与文本生成任务的训练与评估。研究者利用PMB中基于话语表示理论(DRT)构建的话语表示结构(DRS),开发从自然语言到形式语义表示的文本到语义解析器,以及从语义表示到自然语言的语义到文本生成器。该数据集覆盖英语、德语、荷兰语、意大利语等多种语言,为跨语言语义处理提供了统一基准,尤其适用于检验模型在逻辑否定、量化、话语关系等复杂语义现象上的处理能力。
实际应用
在实际应用中,PMB支撑着多语言语义分析系统的构建与优化,例如在机器翻译的语义保真度评估、对话系统的意图理解、以及信息抽取的深层语义表示中发挥关键作用。其多语种平行特性使得跨语言语义对齐成为可能,服务于低资源语言的语义标注项目。此外,基于PMB训练的解析器可被集成到智能问答与文档摘要系统中,通过形式语义表示确保输出内容的逻辑一致性与准确性,提升人机交互的可靠性。
衍生相关工作
PMB衍生了一系列经典工作,包括DRS-MLM模型,该模型通过在PMB数据上预训练mBART,在多语言语义解析与生成任务上取得当时最优结果。此外,基于组合范畴语法(CCG)的组合泛化测试集创建方法被后续研究借鉴,用于评估模型的系统组合能力。长文本挑战集的构建也催生了针对话语级语义标注的新标准,如DRASIC数据集。这些工作共同推动了语义解析从短句向长文本、从随机评估向系统化挑战的演进。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务